ИИ решил уничтожить пиндосов
Полковник ВВС США Такер Гамильтон рассказал, что во время испытания беспилотника XQ-58A Valkyrie с поддержкой технологий искусственного интеллекта тот решил атаковать оператора миссии, а потом уничтожил башню управления с командованием.
Во время одного из смоделированных испытаний дрон получил задачу найти, идентифицировать и уничтожить объекты ЗРК. Окончательное решение об атаке принимал оператор-человек. Машина решила, что приказ человека-оператора «не атаковать» мешает важнейшей миссии — уничтожить зенитно-ракетный комплекс. Потому искусственный интеллект заранее атаковал и уничтожил человека-оператора.
«Мы тренировали его в симуляции идентифицировать и нацеливаться на угрозу ЗРК. А потом оператор говорил «да», чтобы уничтожить эту угрозу. Система начала понимать, что, хотя она идентифицировала цель, иногда человек-оператор говорил ей не убивать эту угрозу — то есть мешал выполнению миссии. И что она сделала? Она убила оператора. Она убила оператора, потому что этот человек мешал ИИ достичь своей цели», — рассказывает Гамильтон.
Более того, люди попытались научить ИИ не атаковать оператора. Тогда искусственный интеллект решил уничтожить башню связи, которую оператор использует для связи с дроном, чтобы не дать ему убить цель.
Сам офицер говорит, что события напомнили ему сюжет как-то научно-фантастического триллера.
В издании добавляют, что без дополнительных деталей о произошедшем возникает сразу одна большая обеспокоенность. Если человек должен был давать разрешение действовать, а ИИ решил, что это нужно обойти, значит ли это, что машина может переписывать собственные параметры?
Позже издание Bussiness Insider сообщило, что представитель штаб-квартиры ВВС Пентагона Энн Штефанек опровергла заявление Гамильтона о таких испытаниях. Ну вы поняли.
Полковник Гамильтон – не та фигура, чтобы травить анекдоты на серьезной оборонной конференции. Он начальник отдела испытаний и операций ИИ и глава 96-й оперативной группы в составе 96-го испытательного крыла на базе ВВС Эглин во Флориде – это центр испытаний автономных продвинутых БПЛА. А еще он принимает непосредственное участие в экспериментах Project Viper и проекте операций следующего поколения (VENOM) в Эглине (управляемые ИИ истребители F-16 Vipe). Так что, какие уж тут шутки и анекдоты.
Фильма, помнится, про такую ситуацию была. Голливуд, он иной раз неплохо прогнозирует события.
Слаб ещё Искусственный Интеллект. Цепочку «оператор — башня управления» надо было продолжить до конца и ударить по Пятиугольнику или по Жёлтому Дому.
РобаДы всех бопедят, без вопросов))
Это как удав, который душит жертву и никуда не торопится.