Mythos 5 на Anthropic хакна Агенцията за национална сигурност на САЩ

Според заместник-председателя на Сенатската комисия по разузнаване Марк Уорнър, Mythos 5 е успял да получи достъп до почти всички класифицирани системи на Агенцията. Директорът ѝ Джошуа Ръд, който ръководи и киберкомандването на Пентагона, потвърди това пред сенаторите. 

Изявленията не разкриват нивото на достъп, до които се е добрал Mythos 5, но признават, че екипи от специалисти по киберсигурност биха постигнали подобен пробив за години. ИИ-инструментът, който Anthropic представи на 7 април, е способен да открива и използва критични слабости в основните операционни системи, браузъри и софтуер. 

Според Forbes, много от уязвимите точки, идентифицирани от Mythos 5, десетилетия наред са останали неоткрити, въпреки многобройните одити, проведени от киберспециалисти. Според Anthropic, техният ИИ-модел е открил над 10 000 слаби места на високо и критично ниво. 

От технологичната компания признават, че с тези възможности Mythos 5 може да се превърне в опасен инструмент в ръцете на хакери и чужди разузнавателни агенции. Точно заради това Anthropic не пускат модела на пазара и са ограничили достъпа до Mythos 5 до тесен кръг свои партньори.

Вече е факт и първата версия от клас Mythos, предназначена за обществен достъп.  За разлика от Mythos 5, така наречената Fable 5 е с вградени ограничения, които блокират заявки за търсене в области като киберсигурност, биология и химия. За сметка на това, Fable 5 предлага по-добри възможности за програмиране, анализ на информация, обработка на изображения, научни изследвания и изпълнение на сложни многоетапни задачи.

Новите ИИ-модели като Mythos 5 и Fable 5тревожат администрацията на Тръмп. През април вицепрезидентът на САЩ Дж. Д. Ванс проведе среща при закрити врати с ръководителите на OpenAI, Anthropic, Google, Microsoft и SpaceX, за да коментират именно способностите на ИИ-технологията самостоятелно да идентифицира уязвим софтуер и да провежда мащабни кибератаки, способни да парализират банки, болници и комунални услуги.

Белият дом изглежда преосмисля досегашната си политика за ускорено развитие на ИИ-технологията и настоява за а по-строг надзор върху усъвършенстваните ИИ-модели.

На 2 юни Тръмп подписа изпълнителна заповед за създаване на доброволна система за взаимодействие на правителството с водещи компании за изкуствен интелект. Документът изисква от разработчиците да предоставят на правителството достъп до новите модели преди пускането им на пазара.

На 12 юни правителството на САЩ прие още по-строги мерки, като поиска. Anthropic да откаже достъп до моделите Mythos 5 и Fable 5 на чуждестранни граждани, включително на своите чуждестранни служители. Anthropic се съобразиха с решението в интерес на националната сигурност и се ангажираха да спазвант изискванията за контрол на износа. 

Ограниченията засегнаха дори най-близките съюзници на Вашингтон в разузнавателния алианс Five Eyes - Австралия, Великобритания, Канада и Нова Зеландия. Експерти предупреждават, че ограниченията за износ не гарантират пълна защита на технологиите, предвид факта, че американски идентификационни данни за достъп до затворени услуги с изкуствен интелект вече се предлагат на черния пазар.

Компанията Anthropic, създадена през 2021 г. от бивши недоволни служители на OpenAI, се оценява на около $ 965 милиарда – цифра, която привлича все повече инвеститори в технологичната структура.