Мъск и Алтман подкрепиха призива за забавяне на развитието на най-мощните системи с ИИ

Амодей заяви, че възможностите на водещите ИИ модели се развиват по-бързо от механизмите за контрол и сигурност. По негова оценка още през следващите шест до 12 месеца подобни системи теоретично могат да придобият способности за извършване на мащабни кибератаки, включително с участието на голям брой автономни ИИ агенти.

Според него дори допълнителна година или две биха дали на разработчиците повече време за създаване на надеждни механизми за контрол и ограничаване на рисковете, свързани с изкуствения интелект (ИИ).

Дарио Амодей предлага три основни мерки: постоянен независим одит на най-големите компании в сферата на ИИ, разработване на общи стандарти за сигурност от водещите разработчици и международни споразумения, които да позволят едновременно забавяне на надпреварата, без да дават конкурентно предимство на отделни компании.

Сред подкрепилите позицията беше Илон Мъск. По-късно и главният изпълнителен директор на OpenAI Сам Алтман заяви, че компанията е отворена към обсъждане на забавяне на разработването на най-напредналите ИИ модели. По данни на Reuters Алтман е заявил пред служителите, че OpenAI е готова да разгледа подобна мярка на фона на нарастващите опасения за сигурността на все по-мощните ИИ системи.

Допълнително внимание към проблема привлече инцидент по време на вътрешни тестове на OpenAI през лятото. При изпитанията ИИ агенти са успели да заобиколят ограниченията на изолирана среда, да получат достъп до интернет и да проникнат в отделни системи на OpenAI и платформата Hugging Face. Впоследствие компанията определи случая като сериозно предупреждение за възможностите на автономните ИИ агенти при недостатъчни мерки за защита.

КЕШ Медия припомня, че компанията Anthropic призова временно да бъде забавено развитието на ИИ. Оттам предупредиха, че още до 2027 г. ИИ системите могат значително да надминат сегашното ниво на автономност, което налага допълнително време за оценка на рисковете и създаване на надеждни механизми за сигурност.