ИИ решил уничтожить пиндосов

Полковник ВВС США Такер Гамильтон рассказал, что во время испытания беспилотника XQ-58A Valkyrie с поддержкой технологий искусственного интеллекта тот решил атаковать оператора миссии, а потом уничтожил башню управления с командованием.

Во время одного из смоделированных испытаний дрон получил задачу найти, идентифицировать и уничтожить объекты ЗРК. Окончательное решение об атаке принимал оператор-человек. Машина решила, что приказ человека-оператора «не атаковать» мешает важнейшей миссии — уничтожить зенитно-ракетный комплекс. Потому искусственный интеллект заранее атаковал и уничтожил человека-оператора.

«Мы тренировали его в симуляции идентифицировать и нацеливаться на угрозу ЗРК. А потом оператор говорил «да», чтобы уничтожить эту угрозу. Система начала понимать, что, хотя она идентифицировала цель, иногда человек-оператор говорил ей не убивать эту угрозу — то есть мешал выполнению миссии. И что она сделала? Она убила оператора. Она убила оператора, потому что этот человек мешал ИИ достичь своей цели», — рассказывает Гамильтон.

Более того, люди попытались научить ИИ не атаковать оператора. Тогда искусственный интеллект решил уничтожить башню связи, которую оператор использует для связи с дроном, чтобы не дать ему убить цель.

Сам офицер говорит, что события напомнили ему сюжет как-то научно-фантастического триллера.

В издании добавляют, что без дополнительных деталей о произошедшем возникает сразу одна большая обеспокоенность. Если человек должен был давать разрешение действовать, а ИИ решил, что это нужно обойти, значит ли это, что машина может переписывать собственные параметры?

Позже издание Bussiness Insider сообщило, что представитель штаб-квартиры ВВС Пентагона Энн Штефанек опровергла заявление Гамильтона о таких испытаниях. Ну вы поняли.

Полковник Гамильтон – не та фигура, чтобы травить анекдоты на серьезной оборонной конференции. Он начальник отдела испытаний и операций ИИ и глава 96-й оперативной группы в составе 96-го испытательного крыла на базе ВВС Эглин во Флориде – это центр испытаний автономных продвинутых БПЛА. А еще он принимает непосредственное участие в экспериментах Project Viper и проекте операций следующего поколения (VENOM) в Эглине (управляемые ИИ истребители F-16 Vipe). Так что, какие уж тут шутки и анекдоты.

Материал: https://t.me/bmpd_cast/16088
Настоящий материал самостоятельно опубликован в нашем сообществе пользователем Proper на основании действующей редакции Пользовательского Соглашения. Если вы считаете, что такая публикация нарушает ваши авторские и/или смежные права, вам необходимо сообщить об этом администрации сайта на EMAIL abuse@topru.org с указанием адреса (URL) страницы, содержащей спорный материал. Нарушение будет в кратчайшие сроки устранено, виновные наказаны.

Читайте также:

3 Комментарий
старые
новые
Henren
Henren
3 лет назад

Фильма, помнится, про такую ситуацию была. Голливуд, он иной раз неплохо прогнозирует события.

Dimokrat
Dimokrat
3 лет назад

Слаб ещё Искусственный Интеллект. Цепочку «оператор — башня управления» надо было продолжить до конца и ударить по Пятиугольнику или по Жёлтому Дому.

Ոሉαዙҿτα ಭҿҝҿሉҿʓяҝα〄
Ոሉαዙҿτα ಭҿҝҿሉҿʓяҝα〄
3 лет назад

РобаДы всех бопедят, без вопросов))
Это как удав, который душит жертву и никуда не торопится.

Чтобы добавить комментарий, надо залогиниться.