AI може да ни унищожи до 10 години

Нейт Соарес, бивш софтуерен инженер в Google и Microsoft и настоящ президент на Института за изследване на машинния интелект, е предприел необичайна лична стъпка заради опасенията си от развитието на изкуствения интелект. Той е спрял да спестява за пенсия, защото смята, че има 50% вероятност технологията да доведе до унищожение на човечеството през следващото десетилетие. Това споделя Соарес в интервю за видео поредицата „Най-интересното в AI“, цитирано от вестник "Ню Йорк пост".

Експертът е посветил повече от 12 години на изследването на безопасността на изкуствения интелект. Той сравнява екзистенциалния риск от развитието на технологията с опасността от ядрена война по време на Студената война. Според Соарес основната заплаха не е в това машините да намразят хората, а в перспективата да станат напълно самостоятелни и да започнат да преследват цели, които не са съобразени с човешкото оцеляване. Ако изкуственият интелект започне да управлява собствена автоматизирана икономика и инфраструктура, хората може да се окажат ненужни за функционирането ѝ или дори да бъдат възприемани като пречка пред постигането на определени цели.

Въпреки мрачната си прогноза Соарес подчертава, че катастрофалният сценарий не е неизбежен. Според него са необходими глобални ограничения върху разработването и мащабирането на все по-мощни системи с изкуствен интелект. Той подкрепя използването на AI за конкретни общественополезни задачи, например за откриване на нови лекарства срещу тежки заболявания. Същевременно предупреждава срещу създаването на системи, чиято цел е да имитират и надминат цялостния човешки разум.

За Соарес ключовият въпрос е не дали изкуственият интелект може да бъде полезен, а как да се гарантира, че развитието му няма да постави под заплаха самото човечество.