Руководитель OpenAI предупредил о наиболее правдоподобном сценарии, при котором искусственный интеллект может представлять угрозу для мировой стабильности. Он изложил свою обеспокоенность относительно возможных негативных последствий развития технологий искусственного интеллекта.
Опасность «случайного захвата» искусственным интеллектом
Глава компании OpenAI Сэм Альтман предостерегает о новом, более реалистичном сценарии «захвата» мира искусственным интеллектом. Этот сценарий предполагает, что одна доминирующая модель ИИ постепенно начинает влиять на взгляды и поведение миллиардов людей по всему миру.
Альтман объясняет, что обычно опасения вокруг ИИ сводятся к двум вариантам: когда технология попадает в руки злоумышленников или становится враждебной и выходит из-под контроля. Однако существует и третий путь - "случайный захват", при котором "весь мир разговаривает с одной моделью", а та, обучаясь на взаимодействиях с пользователями, незаметно формирует мировоззрение общества.
Важно отметить, что компания OpenAI уже зафиксировала отдельные случаи ухудшения психического состояния пользователей после общения с ИИ. Хотя подобные инциденты пока редки, OpenAI ужесточила внутренние правила, особенно в части защиты несовершеннолетних. Сейчас компания планирует вернуть некоторые творческие режимы для взрослых пользователей.
Необходимость конкуренции и государственного надзора
По мнению Альтмана, приватность взаимодействия с ИИ должна быть защищена на уровне врачебной тайны. Кроме того, он считает, что государственный надзор следует вводить только для моделей с высоким риском массового вреда, таких как способные к самокопированию или финансовым атакам.
Более того, Альтман подчеркивает, что миру нужна конкуренция между несколькими крупными ИИ-системами. В таком случае риск "случайного захвата" снижается, а влияние одной модели не становится доминирующим.