Anthropic призова за пауза в развитието на изкуствения интелект

Съоснователят на Anthropic Джак Кларк призова за забавяне или дори за „пауза“ в развитието на изкуствения интелект по света.

По думите му, технологията наближава точка, в която може да се развива без човешка намеса.

„Искате да имате възможността да свалите крака си от газта и да натиснете спирачката“, каза Кларк, сравнявайки ситуацията с автомобил без педал за спирачка.

Подобен призив за озаптяване на бързия растеж на AI отправи и Илон Мъск през 2023 година.

Тогава той настоя за шестмесечна пауза в обучението на системи с изкуствен интелект, по-мощни от GPT-4, и предложи правителствена намеса, ако компаниите не се съобразят доброволно.

Anthropic обаче предлага по-различен подход.

Компанията не настоява за незабавно спиране, а за създаване на координиран механизъм за забавяне или спиране на развитието на модерния AI, ако се появят определени предупредителни знаци.

Сред тях е рискът от „рекурсивно самоусъвършенстване“ – сценарий, при който AI системите започват да се усъвършенстват по-бързо, отколкото хората могат да ги управляват.

Критиците на Anthropic твърдят, че призивът може да е стратегически ход, насочен към ограничаване на конкуренцията.

Поддръжниците обаче подчертават, че компанията е последователна в усилията си за безопасност на изкуствения интелект от самото си създаване.

Според експерти, глобална пауза е малко вероятна на практика.

В момента САЩ, Китай и големите компании за AI виждат усъвършенствания AI като източник на икономически растеж, военно предимство и фактор за лидерство в науката.

Да се спре всичко едновременно е трудно, особено предвид геополитическата обстановка, в която нито една страна не би рискувала да изостане.

Въпреки това, не е изключено да се стигне до решение за забавяне, особено ако една усъвършенствана система с изкуствен интелект причини сериозна криза.

Историята показва, че правителствата понякога ограничават мощни технологии след големи инциденти.