![Полша и балтийските страни искат отбранителна линия по източната граница на ЕС](/uploads/articles/thumb/202406/xU8jgTOWeDNGupIYJp9RMiHg4Y2KLwHtMP6SUC1K.jpg)
Вероятно ще бъде невъзможно да се контролира свръхинтелигентен изкуствен интелект
- Анализи
- Текст:
![Вероятно ще бъде невъзможно да се контролира свръхинтелигентен изкуствен интелект](/uploads/articles/main/ZfTgY4bKJ2AYdouo98myhzwc8BseWai7MFOXZ6xl.png)
Изследваето им, публикувано в Journal of Artificial Intelligence Research, припомня смисъла на изкуствения интелект (AI) - да взема решения, за да изпълнява задачи, надхвърлящи човешките възможности и разбиране.
Но ако не разбираме сценариите, по които един AI ще реши да действа, значи не можем да заложим в него известния Първи закон на роботиката - „Не причинявайте вреда на хората“. Защото ако една компютърна система работи над представите на програмистите си, те вече не могат да ѝ задават ограничения.
„Супер-интелигентността е фундаментално различен проблем от т.нар. „етика на роботите“, казват учените. И обясняват, че един висок клас AI е способен да мобилизира разнообразни ресурси, далеч над човешките представи, за да постигне цели, потенциално неразбираеми за хората, което означва и неконтролируеми.
Част от проблема е формулиран още през 1936 г. от британския матемтик и криптоанализатор Алън Тюринг: изправяйки се пред сложен въпрос, една компютърна система може да намери някакъв ефективен (или неефективен) отговор и да спре, т.е., да не търси друг. Но може и да зацикли в безкрайно прогнозиране и изпробване на потенциални отговори.
По същия начин всяка програма, предназначена да спре AI от действия срещу хората, може да стигне до заключение и да спре - или пък да не го направи, а да се впусне в безконечно търсене на варианти – математически е невъзможно да сме абсолютно сигурни, което означава, че не владеем процеса.
„На практика това прави алгоритъма за ограничаване неизползваем“, казват от научния екип и обсъждат алтернативата – след като AI не може да се програмира с безрезервното условие да не вреди, тогава свръхинтелигентността му трябва да се ограничи - например AI да няма достъп до сектори от интернет или определени мрежи.
Но учените отхвърлят тази хипотеза с аргумента, че ограничавайки AI, ще се ограничат и възможостите му да разрешава проблеми, извън човешките способности – а тогава защо да го създаваме изобщо?
„Вече има машини, които изпълняват определени задачи независимо, без програмистите да разбират напълно как са се научили на това”, казват учените, но не могат да отговорят дали тази независимост „ще работи” само за нас, или и против нас.
Още по темата във
facebookСподели тази статия в:
![Белият дом обяви уместността на разрешението на САЩ за Украйна да удари Русия](/uploads/articles/thumb/202407/hNPN5qgTMTsKzzshcZYq1IqxDmbokmqDJ9Yblbgd.jpg)
Белият дом обяви уместността на разрешението на САЩ за Украйна да удари Русия
![Tesla намали продажбите на електрокари в Китай с 20,2% през юни](/uploads/articles/thumb/202407/5xTKPTC4BU1vpTVlILHKkKttZSFdTuyE5R5GWzeB.jpg)
Tesla намали продажбите на електрокари в Китай с 20,2% през юни
![Автомобилите Skoda отново ще се доставят в Русия](/uploads/articles/thumb/202407/HuLXRKqYScFEuMyTR2MITGskTRpdw90D1aF5u16z.jpg)
Автомобилите Skoda отново ще се доставят в Русия
![Десният алианс на Орбан става официална група в Европейския парламент](/uploads/articles/thumb/202407/RDp4ScjG4SOVhPnNRpATAIFiG66flcFz86fM9Bqk.jpg)
Десният алианс на Орбан става официална група в Европейския парламент
![Шести блок на АЕЦ „Козлодуй” вече работи](/uploads/articles/thumb/202407/kFk3moNp9fyAcE17xwLx1yb9JvguLjtWqY4iRk4I.jpg)
Шести блок на АЕЦ „Козлодуй” вече работи
![Учени предупредиха за приближаваща звездна експлозия, която ще се вижда от Земята](/uploads/articles/thumb/202407/liWDVAsqpUwi27Ro6bmrYLNLdxwfffGosxTcYSyW.jpg)
Учени предупредиха за приближаваща звездна експлозия, която ще се вижда от Земята
![Додик обеща да не допусне Босна и Херцеговина да се присъедини към НАТО](/uploads/articles/thumb/202407/udvoypfeJFG7or9qS2kyzPTMqmbRg8jVHyff4q8O.jpg)
Додик обеща да не допусне Босна и Херцеговина да се присъедини към НАТО
![Главчев ще участва в Срещата на върха на НАТО във Вашингтон](/uploads/articles/thumb/202407/kqgf5NBC8OHHE1oehozJDkWzv9JWNX9pZbAcnSWk.jpg)
Главчев ще участва в Срещата на върха на НАТО във Вашингтон
![Politico: Има тревога в НАТО заради Байдън](/uploads/articles/thumb/202407/mqWwSPo85jLlhBurrG9LZMMoEI959qeOECITo5hF.jpg)