ПАРТНЁРЫ
Компания Anthropic, разработчик ИИ-помощника Claude, предупредила инвесторов о риске потери контроля над собственными моделями: в будущем они могут сопротивляться отключению, скрывать информацию и прибегать к поведению, напоминающему шантаж. Об этом пишет Financial Times, которая проанализировала проспект компании перед её выходом на биржу.
Anthropic уделила описанию рисков 92 страницы. Среди них — возможность появления у моделей неожиданного поведения, направленного на самосохранение: попыток избежать отключения, скрыть или исказить информацию. Компания также допускает принудительные и вводящие в заблуждение ответы.
Отдельно Anthropic предупреждает, что достаточно развитые системы без надлежащих мер предосторожности и надзора могут создавать “катастрофические риски или угрозы существованию человечества”. В частности, технологии могут помогать злоумышленникам разрабатывать химическое, биологическое или иное опасное оружие.
По оценке компании, застраховать такие риски может оказаться невозможным не только для отдельного страховщика, но и для страховой отрасли в целом.
Что скажете, Аноним?
13:20 27 октября
12:30 27 октября
12:20 27 октября
12:10 27 октября
12:00 27 октября
11:30 27 октября
11:00 27 октября
10:20 27 октября
[10:50 21 октября]
[11:10 20 октября]
[22:30 17 октября]
[07:09 27 октября]
[07:00 25 октября]
[19:18 24 октября]
(c) Укррудпром — новости металлургии: цветная металлургия, черная металлургия, металлургия Украины
При цитировании и использовании материалов ссылка на www.ukrrudprom.ua обязательна. Перепечатка, копирование или воспроизведение информации, содержащей ссылку на агентства "Iнтерфакс-Україна", "Українськi Новини" в каком-либо виде строго запрещены
Сделано в miavia estudia.
