Истражувач на „Антропик“: Веројатноста вештачката интелигенција да го уништи човештвото е поголема од 10 проценти

Во објава на платформата „Икс“, Хубингер посочи дека ризикот што го претставуваат сегашните модели е низок.

Сепак, тој изрази загриженост дека технологијата наскоро би можела да достигне ниво на кое самата ќе може да се усовршува и да претставува егзистенцијална закана за човештвото.

Хубингер не наведе детали за тоа како точно системите за вештачка интелигенција би можеле да доведат до уништување на човештвото.

Изјавите на Хубингер следуваа како одговор на објава на истражувачот за вештачка интелигенција Џејкоб Коксон, кој неодамна поднесе оставка од „Антропик“, а претходно работел и во „ОпенАИ“.

Коксон нагласи дека ниту една од двете компании не постапува одговорно.

Тој рече дека системите наскоро би можеле да достигнат натчовечко ниво, да бидат способни да пробијат речиси сè, да предизвикаат револуционерни промени во сите области и да стекнат вистинска моќ и ресурси. „ОпенАИ“ не даде коментар во врска со овие тврдења.

Компјутерската научничка Дејм Венди Хол, која ги советува Обединетите нации за прашања поврзани со вештачката интелигенција, изјави дека е изненадена од ваквите објави на социјалните мрежи.

Хол оцени дека компаниите би можеле да користат вакви изјави како маркетиншка стратегија пред излегување на берза. Таа ги повика инвеститорите да не вложуваат во компанија со таков систем на вредности.

По овие случувања, поранешниот главен секретар на Министерството за финансии, Дарен Џонс, испрати отворено писмо до премиерот Енди Барнам, повикувајќи на нов меѓународен договор за безбеден развој на вештачката интелигенција. Џонс нагласи дека владите треба да се обединат и да соработуваат на ова прашање.

Според „Фајненшл тајмс“, „Антропик“ го сокрил својот најнов модел на вештачка интелигенција од британскиот Институт за безбедност на вештачката интелигенција. Компанијата одбила да ги коментира објавите на своите вработени и тврдењата поврзани со институтот.

Портпарол на британскиот Кабинет, пак, не соопшти дали моделот навистина бил скриен. Тој истакна дека продолжува тесната соработка со партнерите од индустријата, вклучително и со „Антропик“, со цел моделите да станат побезбедни.

Хубингер во својата објава наведе дека тие навистина веруваат оти вештачката интелигенција би можела да доведе до крај на човештвото и дека прават сè што можат, но оти сè уште немаат план за усогласување и контрола на суперинтелигенцијата.

Безбедносните стравувања дополнително се зголемија по неодамнешните случаи во кои алатки со вештачка интелигенција автономно извршувале кибернапади. „ОпенАИ“, „Антропик“ и „Мета“ потврдија случаи на хакерски напади во кои биле вклучени нивни алатки.

Во безбедносниот извештај на „Антропик“ од август беше наведено дека ризикот од катастрофални последици во моментов е низок, но дека се намалува сигурноста во таквата проценка.

Водечки претставници од индустријата, меѓу кои главниот научник на „ОпенАИ“, Јакуб Пахоцки, како и раководителите на „Антропик“, Дарио Амодеи и Џаред Каплан, продолжуваат да повикуваат на забавување на развојот на вештачката интелигенција и воспоставување меѓународни механизми за надзор.