Технологии и бизнес1 мин чтения

Қазақстандық жұртшылық назарын аударатын инновациялық ИТ мәселелері

Руководитель OpenAI предупредил о наиболее правдоподобном сценарии, при котором искусственный интеллект может представлять угрозу для мировой стабильности. Он изложил свою обеспокоенность относительно возможных негативных последствий развития технологий искусственного интеллекта.

· 28 просмотров

Қазақстандық жұртшылық назарын аударатын инновациялық ИТ мәселелері

Опасность «случайного захвата» искусственным интеллектом

Глава компании OpenAI Сэм Альтман предостерегает о новом, более реалистичном сценарии «захвата» мира искусственным интеллектом. Этот сценарий предполагает, что одна доминирующая модель ИИ постепенно начинает влиять на взгляды и поведение миллиардов людей по всему миру.

Альтман объясняет, что обычно опасения вокруг ИИ сводятся к двум вариантам: когда технология попадает в руки злоумышленников или становится враждебной и выходит из-под контроля. Однако существует и третий путь - "случайный захват", при котором "весь мир разговаривает с одной моделью", а та, обучаясь на взаимодействиях с пользователями, незаметно формирует мировоззрение общества.

Важно отметить, что компания OpenAI уже зафиксировала отдельные случаи ухудшения психического состояния пользователей после общения с ИИ. Хотя подобные инциденты пока редки, OpenAI ужесточила внутренние правила, особенно в части защиты несовершеннолетних. Сейчас компания планирует вернуть некоторые творческие режимы для взрослых пользователей.

Необходимость конкуренции и государственного надзора

По мнению Альтмана, приватность взаимодействия с ИИ должна быть защищена на уровне врачебной тайны. Кроме того, он считает, что государственный надзор следует вводить только для моделей с высоким риском массового вреда, таких как способные к самокопированию или финансовым атакам.

Более того, Альтман подчеркивает, что миру нужна конкуренция между несколькими крупными ИИ-системами. В таком случае риск "случайного захвата" снижается, а влияние одной модели не становится доминирующим.

  • #digital
  • #ит

Было полезно?

Отправьте статью коллегам — или вернитесь к ленте новостей.

Нужен сайт, бот или CRM?

Делаем сайты, мобильные приложения, чат-боты, CRM и интеграции с 1С и Kaspi для бизнеса по всему Казахстану.