Қазақстандық жұртшылық назарын аударатын инновациялық ИТ мәселелері

Опасность «случайного захвата» искусственным интеллектом

Глава компании OpenAI Сэм Альтман предостерегает о новом, более реалистичном сценарии «захвата» мира искусственным интеллектом. Этот сценарий предполагает, что одна доминирующая модель ИИ постепенно начинает влиять на взгляды и поведение миллиардов людей по всему миру. Альтман объясняет, что обычно опасения вокруг ИИ сводятся к двум вариантам: когда технология попадает в руки злоумышленников или становится враждебной и выходит из-под контроля. Однако существует и третий путь - "случайный захват", при котором "весь мир разговаривает с одной моделью", а та, обучаясь на взаимодействиях с пользователями, незаметно формирует мировоззрение общества. Важно отметить, что компания OpenAI уже зафиксировала отдельные случаи ухудшения психического состояния пользователей после общения с ИИ. Хотя подобные инциденты пока редки, OpenAI ужесточила внутренние правила, особенно в части защиты несовершеннолетних. Сейчас компания планирует вернуть некоторые творческие режимы для взрослых пользователей.

Необходимость конкуренции и государственного надзора

По мнению Альтмана, приватность взаимодействия с ИИ должна быть защищена на уровне врачебной тайны. Кроме того, он считает, что государственный надзор следует вводить только для моделей с высоким риском массового вреда, таких как способные к самокопированию или финансовым атакам. Более того, Альтман подчеркивает, что миру нужна конкуренция между несколькими крупными ИИ-системами. В таком случае риск "случайного захвата" снижается, а влияние одной модели не становится доминирующим.