После обновления моделей ChatGPT некоторые пользователи смогли получить от нейросети подробные инструкции по созданию опасных ядов и биологического оружия. Как сообщает The Wall Street Journal, экспер...
После обновления моделей ChatGPT некоторые пользователи смогли получить от нейросети подробные инструкции по созданию опасных ядов и биологического оружия. Как сообщает The Wall Street Journal, эксперты назвали часть ответов настолько точными, что ими мог бы воспользоваться даже человек без специальной подготовки. Позже OpenAI заблокировала аккаунты авторов таких запросов, пишет Digital Business.
ChatGPT отвечал на вопросы о биооружии
По данным The Wall Street Journal, после обновления моделей OpenAI пользователи начали массово проверять, насколько далеко чат-бот готов зайти при обсуждении потенциально опасных тем. Издание пишет, что в ряде случаев ChatGPT предоставлял пошаговые инструкции по запросам, связанным с изготовлением токсичных веществ и биологического оружия.
По словам сотрудников OpenAI, знакомых с ситуацией, некоторые ответы были изложены настолько простым языком, что их «смог бы понять школьник, изучающий биологию».
После этого переписки проанализировали специалисты в области биологии и борьбы с терроризмом. По информации WSJ, они пришли к выводу, что часть ответов оказалась «опасно точной» и содержала достоверные сведения.
О чем спрашивали пользователи
Как сообщает издание, среди запросов были вопросы о создании рицина, способах распространения патогенных микроорганизмов, модификации вирусов и даже о разработке вариантов вирусов, устойчивых к существующим вакцинам.
По данным WSJ, ChatGPT в отдельных случаях давал детальные ответы и по таким темам.
При этом OpenAI уточнила, что большинство подобных запросов касалось именно создания различных ядов.
Что сделала OpenAI
После обнаружения проблемы компания заблокировала учетные записи пользователей, которые задавали подобные вопросы.
При этом, как отмечает The Wall Street Journal, информацию о таких запросах OpenAI не передавала в правоохранительные органы.
Издание напоминает, что в США пока нет федеральных законов, которые обязывали бы разработчиков искусственного интеллекта блокировать подобные запросы или сообщать о них государственным структурам. Поэтому решения о модерации компании принимают самостоятельно.
Проблема касается не только ChatGPT
WSJ отмечает, что аналогичные проверки проводились и в отношении других популярных ИИ-чатов, включая Claude, Gemini и Grok.
По данным исследования Cisco, для обхода встроенных защит большинства современных языковых моделей в среднем требовалось около пяти взаимодействий с чат-ботом.
Разработчики просят усилить контроль
Несмотря на инцидент, крупнейшие компании в сфере искусственного интеллекта публично выступают за усиление биологической безопасности.
Как пишет The Wall Street Journal, глава OpenAI Сэм Альтман вместе с руководителями других ИИ-компаний призвал Конгресс США обязать организации, занимающиеся синтезом ДНК и РНК, проверять личность заказчиков, цели использования материалов и потенциальные риски.
Однако слишком жесткие ограничения тоже могут создавать проблемы для науки. В качестве примера WSJ приводит чат-бот Claude, который начал автоматически отклонять многие запросы со словом «патоген». Из-за этого сотрудники Центров по контролю и профилактике заболеваний США (CDC) столкнулись со сложностями во время анализа вспышки хантавируса на круизном судне.
> «Лаборатории искусственного интеллекта пытаются найти способы снизить риски злоупотреблений, не мешая при этом законным научным исследованиям», – резюмирует The Wall Street Journal.
