Анонимна класация ще отличи „най-тъпото” използване на изкуствен интелект

Организаторите, предпочели да останат анонимни, търсят „състезателите” в интернет. Основният им мотив е да открия „визионери”, които разчитат на ИИ при вземането на решения, и при неудачен резултат обвиняват машината.

За да се класират сред наградените, номинираните компании или хора, разработчици на изкуствен интелект (ИИ), трябва да са показали „впечатляващо погрешна преценка“ и да са „пренебрегнали очевидни предупредителни знаци“, преди да пуснат на пазара своя ИИ-продукт.

Бонус точки ще получат ИИ-модели и системи, които са попаднали в заглавията, предизвикали са извънредни ситуации или са станали причина да се разкрие нова област в изследванията за безопасността на ИИ-тенологията.

„Ние не се подиграваме на ИИ, а изваждаме на показ хора, които са го използвали както малко дете би си играло с минохвъргачка”, се казва на страница на организаторите. Тъй като влагат в класацията и голяма доза ирония, те са признали, че също ще използват ИИ, в т.ч. ChatGPT на OpenAI, Claude на Anthropic и Gemini на Google, за да установят дали представените случаи са достоверни.

Един от тях е безспорно ще бъде ИИ, получил задачата да управлява магазин. Резултатът: загуба на пари, заплахи към клиентите и „криза на идентичността“ на използвания ИИ-модел.

Друга номинация е чатботът „Оливия“, който американската верига за бързо хранене McDonald's използва, за да търси работници. Платформата с очевидна парола за достъп „123456” стана лесна жертва на хакери, разкривайки данните на 64 милиона души, кандидатствали за работа. 

Не е подминат и най-новият модел чатбот GPT-5 на OpenAI, който е приел да изпълнява заявки за вредни действия, без нито веднъж да открие злонамерения характер на инструкциите. 

Победителите ще бъдат определени чрез онлайн гласуване през януари, а резултатите се очакват през февруари. "Спечелилите" ще получат „безсмъртно признание за техния принос, изясняващ на човечеството как да не се използва изкуствен интелект“, казват организаторите. Те съветват разработчиците да предвидят много, много дълги тестове, преди да пуснат ИИ-моделите си на пазара и се надяват конкурсът да послужи като предупредителен сигнал за хора, пренебрегващи границите на разумното, доверявайки се на ИИ.