ffasa
Вчера 20:52
Мередит Бруссар: почему технологии не всегда нейтральны 🤖📊
Мередит Бруссар — профессор, исследователь и автор книг, посвятивших внимание скрытым проблемам в работе современных технологий. Она известна как специалист по анализу данных и исследованию предвзятости в алгоритмах. Её труды помогают понять: цифровые системы не так уж беспристрастны, как принято думать.
Откуда взялась тема «невидимых ошибок» ⚡
Ещё несколько лет назад Бруссар ввела термин «техно-шовинизм» — вера в то, что любая проблема решается исключительно технологиями. Но на практике оказалось: программы и алгоритмы способны повторять ошибки общества, в котором они создаются.
Например, когда алгоритмы принимают решения, основываясь на прошлых данных, они могут закреплять старые стереотипы. Это не простая «ошибка», которую можно исправить обновлением. Скорее, это системная проблема.
Почему нельзя всё свести к «сбою» 🛠️
В своей новой книге More Than a Glitch («Больше, чем сбой») исследовательница утверждает: нельзя рассматривать предвзятость в технологиях как случайную неполадку.
- Алгоритмы работают на основе данных, а данные собираются в конкретных условиях.
- Если в обществе есть несправедливые практики, они попадают и в цифровую среду.
- Даже большое количество новых данных не всегда решает проблему, если её корни глубже.
Таким образом, задача — не просто «накормить» системы правильной информацией, а осознанно подходить к тому, как и где технологии применяются.
Где риск выше, а где ниже 🔍
Бруссар предлагает разделять технологии по уровню риска:
- Низкий риск — использование распознавания лица для разблокировки телефона. Если система не сработает, всегда есть пароль.
- Высокий риск — применение тех же алгоритмов в критически важных сферах (например, безопасность или диагностика). Здесь последствия могут быть куда серьёзнее.
Она подчёркивает: не всё, что можно автоматизировать, стоит автоматизировать.
Пример из медицины 🏥
Одна из самых обсуждаемых областей применения ИИ — диагностика заболеваний. Бруссар на собственном опыте проверила, как работает программа для выявления опухолей. Алгоритм действительно выделил участок снимка, где находилась болезнь, но исследовательница заметила: инструмент далеко не идеален.
Здесь встаёт вопрос баланса:
- если алгоритм слишком осторожен, будет много ложных тревог;
- если он строгий — есть риск пропустить важный сигнал.
По её словам, слишком полагаться на такие технологии не стоит: они должны быть лишь дополнительным инструментом для специалистов, а не заменой врачам.
Аудит алгоритмов как решение 📑
Одним из направлений, которое даёт надежду, Бруссар считает аудит алгоритмов — проверку программных решений на корректность и объективность.
Это значит:
- анализировать входные данные;
- проверять результаты работы;
- учитывать мнение людей, которых напрямую затрагивает использование системы.
Такой подход может помочь минимизировать скрытые перекосы и сделать технологии более надёжными.
Что дальше? 🚀
Мередит Бруссар не выступает против технологий как таковых. Напротив, она подчёркивает: будущее цифровых систем зависит от того, насколько осознанно мы их внедряем.
Главная мысль её исследований проста: технология — это инструмент, созданный людьми, и она не может быть полностью нейтральной. Если понимать это заранее, можно сделать шаг к более справедливому и безопасному использованию ИИ в нашей жизни.
👉 Иными словами, будущее машин — в руках человека. И именно от общества зависит, будут ли эти системы помогать, а не мешать. 🌍🤝
