сп. National Geographic - Януари 2021
National Geographic KIDS - Декември 2020

Суперинтелигентните машини не могат да бъдат контролирани

14.1.2021 г.

Границите на изкуствения интелект (AI) се разширавят все повече с напредването на компютърната наука.

В изследване учените от Max Planck Society изследват степента до която хората могат контролират супер интелигентен AI. За целта те са проектирали теоретичен алгоритъм, който се предполага да го контролира.

Какво става, когато машината стане по-умна от човека? Може ли супер интелигентен изкуствен интелект въобще да бъде контролиран от нас? Учените от Max Planck Society изследват този въпрос в ново проучване и стигат до ясен отговор: при сегашното състояние на компютърната наука няма да бъде възможно да се контролира супер интелигентен изкуствен интелект с помощта на алгоритъм, пише Business insider. Днес има AI, които изпълняват задачи независимо, без  програмистите точно да разбират как са се научили да го правят. Мауел Цебриан, съавтор на проучването, което излиза в Journal of Artificial Intelligence Research и екипът му следват два подхода, за да разберат как хората могат да контролират супер интелигентен изкуствен интелект.

Един от подходите е да се ограничат ресурсите на AI като се спре достъпът му до интернет и други технически устройства. Но това забавя  действията му и съответно ползите са по-малко. Вторият подход е  изкуственият интелект да се  мотивира да преследва цели само в интерес на човечеството и да се обучава на етически правила.  Но този контрол също има своите ограничения, откриват учените.

Те извеждат теоретичен алгоритъм, който би трябвало да гарантира изкуственият интелект да не вреди на човечеството. При симулацията алгоритъмът би трябвало да спира поведението на AI, ако то се счете за вредно. Но анализите сочат, че  според настоящия научен статус подобен алгоритъм не може да бъде програмиран. Пълен контрол  над супер интелигентния AI би бил невъзможен.

Алгоритъмът би довел собствените си процеси до  прекъсване и би станал неизползваем. Компютърните учени тогава няма да могат да разпознаят дали алгоритъмът все  още анализира  AI или просто не работи, обяснява Ияд Рахуан, директор на  изследователския отдел Human and Machine. Освен това към момента не е възможно да се изчисли дали   машината или човека са по-интелигентни. Според учени това не позволява пълен контрол на AI от проектиран от човека алгоритъм, подчертава Business insider.

Този сайт използва бисквитки (cookies). Ако желаете можете да научите повече тук. разбрах