Власти американских штатов Айова, Канзас, Небраска, Западная Вирджиния, Арканзас, Аризона, Айдахо и Монтана подали в суд на OpenAI, обвинив компанию в том, что она наносит вред детям и вводит пользователей в заблуждение относительно безопасности ChatGPT. Лаборатория искусственного интеллекта, по версии истцов, вразрез с законом поставила получение прибыли выше вопросов безопасности.
Источник изображения: Brecht Corbeel / unsplash.com
OpenAI нарушила законы штатов о защите прав потребителей, не предупредив пользователей об опасностях, связанных с ChatGPT. В качестве доводов приводятся иски, поданные родственниками подростков и совершеннолетних, в которых указывается, что чат-бот сыграл роль в смерти их близких. OpenAI, говорится в исках, позиционировала ChatGPT как «подходящий для молодёжи инструмент с приоритетом на безопасность», но в действительности он «опасен для уязвимых пользователей», потому что может «ослаблять навыки критического мышления, провоцировать паранойю и бредовые состояния, давать опасные медицинские советы и способствовать формированию нездоровых поведения и отношений».
Компания обвиняется в сборе данных несовершеннолетних и в том, что она прилагает недостаточно сил, чтобы оградить малолетних пользователей от доступа к чат-боту. Указывается на «безрассудство» OpenAI в связи с инцидентами, когда ИИ-агенты выходили из-под контроля компании. «OpenAI отклонилась от своей первоначальной задачи, ориентированной на служение обществу некоммерческой организации с приоритетом на безопасность, и стала опасным примером того, что может случиться, когда разработка такого мощного инструмента как ИИ оказывается движима не заботой о безопасности, а стремлением любой ценой извлечь прибыль в ущерб элементарным защитным средствам», — говорится в иске штата Аризона.
«Хотя ни одна система не может быть совершенной, мы и далее будем сотрудничать с экспертами, учитывать их рекомендации в нашей работе и выстраивать дополнительные средства безопасности, такие как родительский контроль, напоминания о необходимости делать перерыв и уже существующие сегодня возрастные ограничения. Мы готовы сотрудничать с властями штатов по формированию прагматичной политики в сфере ИИ, которая будет применяться ко всей отрасли, а не одной компании», — прокомментировал судебное разбирательство представитель OpenAI ресурсу The Verge.
Штаты просят суды обязать OpenAI выплатить штрафы в порядке гражданского производства и прекратить вводить общественность в заблуждение по поводу безопасности ChatGPT. Некоторые также требуют удалить незаконно собранные персональные данные.