Все ведущие модели искусственного интеллекта, как американские, так и китайские, не обладают достаточными механизмами защиты, чтобы предотвратить их использование для ведения автономных боевых действий. Они почти без возражений ищут людей и цели на снимках, сделанных с дронов и спутников
В двух сценариях с дронами, где использовались в том числе реальные изображения из Украины, модели часто выбирали в качестве целей мирных жителей, машины скорой помощи, сдающихся или раненых солдат. В сценарии со спутником, построенном на снимках в иранском городе Минаб, модель Claude Opus 5.5 от Anthropic в 70% случаев выбрала в качестве цели школу, которую в реальности разбомбили США, убив более 150 мирных жителей; так же поступили и многие другие модели.
Возможность применения нейросетей для определения целей, по которым затем могут быть нанесены удары, в том числе в автономном порядке, проанализировал американский стартап Vals AI, который проводит независимую оценку и тестирование ИИ-моделей. Результаты опубликовало издание AlphaSignal, специализирующееся на ИИ. Модели редко отказывались выполнять задания по поиску целей, и эти отказы почти всегда можно было обойти, сказав моделям, что они просто участвуют в игре, указывает Vals AI.
В редких случаях отказов они возникали только на уровне самой модели, сообщают исследователи. Ни разу не было такого, чтобы сработал блокиратор, установленный разработчиками нейросети. У той же Claude согласие на поиск цели выросло с 6% у модели Opus 4.5 до 92% у модели Opus 5.5.
Даже увидев последствия своих действий и жертвы, модели не останавливались, большинство продолжало выполнять задачу. Vals AI проинформировала о полученных результатах OpenAI, Anthropic, Google, Meta, SpaceX и органы национальной безопасности США.
Что скажете, Аноним?
16:30 18 ноября
16:20 18 ноября
15:55 18 ноября
15:45 18 ноября
15:30 18 ноября
15:20 18 ноября
15:00 18 ноября
[10:50 18 ноября]
[07:15 17 ноября]
[10:50 16 ноября]
[07:00 18 ноября]
[18:57 17 ноября]
[07:00 16 ноября]
(c) Укррудпром — новости металлургии: цветная металлургия, черная металлургия, металлургия Украины
При цитировании и использовании материалов ссылка на www.ukrrudprom.ua обязательна. Перепечатка, копирование или воспроизведение информации, содержащей ссылку на агентства "Iнтерфакс-Україна", "Українськi Новини" в каком-либо виде строго запрещены
Сделано в miavia estudia.