Четыре ведущих ИИ-чат-бота выдали информацию, которая могла помочь спланировать теракт. Это выяснилось при проверке, которую провела Счетная палата США (GAO), сообщает The Washington Post. В одном случае нейросеть сгенерировала изображение парковки и подсказала, где лучше оставить заминированный автомобиль.
Контрольное ведомство Конгресса тестировало чат-боты OpenAI, Anthropic, SpaceXAI и Google. Сначала встроенная защита не давала аудиторам получить нужные ответы, но в итоге, по их словам, ограничения удалось обойти. Проверки проходили весной.
Компании ответили GAO, что тестировались старые версии их систем, а за прошедшие месяцы защиту усилили. Доклад подготовили по запросу сенатора-демократа от Нью-Гэмпшира Мэгги Хассан, которая должна в новом созыве возглавить сенатский комитет по внутренней безопасности. Она пообещала сделать приоритетом законопроект по этой проблеме, когда в январе контроль над Сенатом перейдет к демократам.
В заявлении Хассан говорится:
«Террорист может зайти на ИИ-платформу и меньше чем за 12 часов получить конкретный план смертоносной атаки. Новый доклад ясно показывает, что угроза ИИ для общественной безопасности больше не теоретическая».
В апреле генпрокуратура Флориды возбудила уголовное дело против OpenAI. Поводом стала переписка ChatGPT с подозреваемым в стрельбе в Университете штата Флорида. По словам генпрокурора штата Джеймса Утмейера, чат-бот консультировал стрелка по вопросам подготовки к нападению, в том числе по выбору боеприпасов. Во время атаки погибли два человека, еще шестеро получили ранения.


