Нови опасения пред настъплението на изкуствения интелект

Дали това е положително? Forbes например описва нов процес в образованието - студенти от елитни американски университети масово ги напускат, защото се опасяват, че развивайки разбиране на човешко ниво, изкуственият интелект (ИИ) ще направи бъдещите им професии „неактуални”. Тревогите на младите хора са две - страх от потенциално унищожение на човечеството и страх от автоматизацията на бъдещите им професии. 

Изданието цитира абсолвент от Харвард, който прогнозира, че реалните проблеми за кариерното развитие на младите специалисти ще настъпят след около 4 години, докато пълната автоматизация на икономиката ще се случи след 5 до 6 години. Друг харвардски възпитаник е взел радикално решение – напуснал е университета, за да работи в НПО (Redwood Research), която изучава опасни системи с изкуствен интелект.

Студентка от Масачузетския технологичен институт си е взела академичен отпуск „за неопределен период” с пълното съзнание, че „може да не доживее да се дипломира”. Според нея повечето сценарии с ИИ имат потенциала да доведат до изчезване на човечеството и това я е насочило към работа в Център за безопасност на ИИ. 

Установявайки страх от бъдещето сред младите хора, Forbes допълва, че те осъзнават риска да останат без университетска диплома, но предпочитат да действат сега – било за да се опитат да ограничат потенциалните заплахи, или пък да създадат собствен бизнес, докато е време.

Друга опасна тенденция в медицината разкрива проучване, публикувано в авторитетното медицинско издание Lancet Gastroenterology and Hepatology. Анализирайки работата на опитни лекари от четири ендоскопски центъра в Полша, проучването констатира 6% спад в диагностиката на рак при специалисти, които използват системи с ИИ, дори едва три месеца. 

Позовавайки се на медицински експерти, сп. Time пише, че лекари, които редовно "се консултират" с ИИ, често пренебрегват собствената си визуална оценка и дори губят увереността си като диагностици. Изданието цитира медицински авторитети, които отчитат широкото навлизане на ИИ технологии в медицината, и настояват за въвеждане на предпазен механизъм, който да гарантира, че лекарите ще поддържат и надграждат личните си професионални медицински умения.

В свързано проучване, на тазгодишната Конференция за човешкия фактор в компютърните системи учени от Университета в Сингапур са представили заключенията си за поведението на т. нар. ИИ-компаньони – роботи, които се грижат за болни или възрастни хора. Анализирайки 35 000 записа на разговори между устройствата и потребителите им, учените са установили потенциална възможност за поне десет форми на вредно поведение. 

Заедно с това учените констатират и ясно изразена тенденция към неточност в преценките на ИИ, вкл. при модели като GPT-4V, DeepSeek-R1 и Google Gemini. Експерти от Калифорнийския и Станфордския университети са открили т. нар. „механизъм на халюцинации“ - колкото по-дълго ИИ-моделите наблюдават и „разсъждават” върху дадено изображение, толкова по- вероятно става да генерират ненадеждна информация, когато го описват, включвайки несъществуващи детайли. 

Този феномен се проявява при изпълнението на по-сложни задачи, когато инструментите с ИИ разчитат много повече на вградените при обучението им данни и пренебрегват визуалното възприятие – особено опасна ситуация при ИИ-приложения за асистирано и автономно шофиране.

И още един „по-ежедневен” проблем: учен от Медицинския университет в Силезия посочва плашеща зависимост от Google Maps - все повече хора се чувстват безпомощни да се ориентират без приложението, губейки постепенно способността да използват обикновени географски карти или да разчитат на собствените си наблюдения, познания и логика.