Сляпата вяра в изкуствения интелект може да забави развитието на науката

Звучи плашещо

Принстънски изследователи публикуваха в списание Nature материал, в който предупреждават: изкуственият интелект (ИИ) все по-често се използва в науката не като инструмент за открития, а като средство за симулиране на прогрес.

Според данни на изданието, от 2012 до 2022 г. делът на изследванията на ИИ в редица дисциплини се е увеличил значително - особено в медицината и информатиката. Но заедно с нарастващата популярност на ИИ нараства и броят на грубите методологически грешки.

Основният проблем е подмяната на разбирането с прогнозиране. Моделите често не обясняват явленията, а само възпроизвеждат модели от данните за обучение, при това с грешки. Един от типичните случаи е "изтичане на данни", при което моделът случайно "научава" тестова извадка предварително.

Това води до неверни заключения: така например, някои системи за изкуствен интелект уж разпознават COVID-19, но на практика разграничават възрастта на пациентите.

Авторите на статията призовават за промяна на подхода за обучение на изследователите, въвеждане на стандарти за валидиране и използване на скрити тестови набори, за да се елиминира подправянето на резултатите. В противен случай науката рискува да се потопи в илюзията за направено откритие.

изкуствен интелект наука откритие