• Главният изпълнителен директор на OpenAI Сам Алтман призна основателността на обществените страхове от бързото развитие на изкуствения интелект, но защити тезата, че технологичните компании могат да се саморегулират.
  • Коментарът му идва на фона на засилващ се дебат за необходимостта от държавен контрол върху AI технологиите.

Хората трябва да имат повече доверие в компаниите за изкуствен интелект, когато става въпрос за безопасността на технологията, заяви главният изпълнителен директор на OpenAI Сам Алтман на конференция в Сан Франциско.

„Светът трябва да вярва, че ще постъпим правилно, защото това е правилното нещо и ние осъзнаваме мащаба на отговорността“, каза Алтман.

Той призна, че обществото има основания да се тревожи за изкуствения интелект, тъй като възможностите на технологията се развиват изключително бързо.

„Вече не е нужно толкова въображение, за да си представим как това може да се обърка. Мисля, че светът има право да се страхува от това“, заяви той.

Спорът за саморегулацията

Критиците на индустрията обаче смятат, че компаниите не могат да бъдат оставени сами да регулират развитието на AI.

Сред политиците, които настояват за по-строго управление на технологията, са сенаторът Бърни Сандърс и Стив Банън, бивш съветник на президента на САЩ Доналд Тръмп.

Самият Тръмп е критикувал призивите за въвеждане на повече ограничения върху бързо развиващата се технология, определяйки опасенията за безопасността на AI като „измама“.

По думите му единствената необходима „предпазна мярка“ за AI е „силен и умен“ президент.

Коментарите на Алтман бяха направени по време на годишната конференция, организирана от софтуерната компания Salesforce.

В същото време самите ръководители на AI компании признават, че регулирането на технология, която се променя толкова бързо, може да се окаже трудно.

В интервю за Axios, публикувано на 3 септември, Алтман заяви, че след като е свидетелствал пред Конгреса през 2023 г. е очаквал законодателите да създадат „основна рамка“ за усъвършенствания AI. Това обаче все още не се е случило.

Според него законодателите изпитват затруднения да следват темпото на технологичното развитие и да създават правила, без да „забавят иновациите“.

Нови закони за безопасността на AI едва ли ще бъдат приети от Конгреса на САЩ в близко бъдеще. Между двете основни политически партии няма консенсус за начина, по който трябва да бъде регулирана технологията, а Камарата на представителите се очаква отново да излезе във ваканция в края на седмицата преди междинните избори в началото на ноември.

Предупрежденията за рисковете се засилват

Коментарите на Алтман във вторник бяха първото му публично изказване след публикация, която стана вирусна през миналата седмица. В нея изследовател, напуснал AI компанията Anthropic, твърди, че ако изкуственият интелект не бъде контролиран, той може да „убие всички хора“ до края на десетилетието.

Няколко други ръководители и експерти в областта на AI заявиха, че са съгласни с оценката, макар да не обясниха как са стигнали до тези заключения или по какъв начин точно AI би могъл да постигне подобен резултат.

След коментарите на Алтман главният изпълнителен директор на Meta Марк Зукърбърг написа в X, че всяка AI компания има възможността и мотивацията „да предприема собствени действия“ за повишаване на безопасността и ако не го направи „ще изостане“.

Той добави, че компаниите са изправени пред значителна отговорност, ако техните модели причинят вреда, което създава силен стимул за предотвратяването на подобни ситуации.

Политиците настояват за контрол

Някои политически фигури отхвърлят тезата, че AI компаниите трябва да могат сами да определят правилата.

Бърни Сандърс заяви, че решенията за бъдещето на AI са оставени в ръцете на „шепа от най-богатите хора в света“.

Бившият стратег на Белия дом Стив Банън също заяви, че обществото не може да има доверие на технологичните олигарси да се регулират сами.

На същата конференция във вторник главният изпълнителен директор на Nvidia Дженсън Хуанг заяви, че именно AI компаниите трябва да решават дали да пускат нови версии на технологията, а не външни институции.

„Не се нуждаем от нови закони или регулации“, каза той, като добави, че не трябва да съществува „фалшив избор“ между скоростта на иновациите и безопасността на AI продуктите.

Nvidia е най-голямата компания в света по пазарна оценка, като печалбите ѝ са нараснали значително заради силното търсене на хардуера ѝ.

Хуанг определи безопасността като „инженерен проблем“ и заяви, че компаниите трябва да „направят пауза“, ако загубят увереност в даден продукт.

AI индустрията е под все по-силен натиск

Последните твърдения, идващи от хора от самата индустрия, засилиха вниманието към развитието на AI.

Главният изпълнителен директор на Anthropic Дарио Амодей призова темпото на развитие на технологията да бъде забавено и правителствата да въведат регулации.

Публикацията му получи подкрепа от Алтман, съоснователя на Google DeepMind Демис Хасабис и Илон Мъск.

До вторник обаче все повече ръководители на AI компании изразяваха подкрепа за саморегулацията вместо за държавна намеса.

Алтман заяви, че компаниите в сектора са способни сами да се регулират.

„Ще го направим правилно“, каза той, като добави, че ако компаниите не успеят да поддържат „безопасността много пред възможностите“ на технологията, те ще „забавят или спрат“ развитието ѝ.

Йошуа Бенджио, един от пионерите на съвременния AI, обаче написа в X, че са необходими „амбициозни усилия извън частния сектор“, за да бъдат предотвратени най-тежките рискове от изкуствения интелект.

Някои представители на индустрията пък смятат, че възродените страхове около AI са преувеличени и се използват за създаване на допълнителен интерес и популярност около технологията.

Компаниите обсъждат общи стандарти за безопасност

По време на конференцията Алтман призова стотици представители на бизнеса да използват AI инструменти в работата си. В същото време той подчерта, че компаниите трябва да използват технологията и за защита на бизнеса си от потенциални кибератаки, подпомагани от AI.

Идеята ръководителите на AI компании да бъдат оставени изцяло сами да регулират индустрията обаче среща съпротива и от самия технологичен сектор.

Джак Кларк, ръководител и съосновател на Anthropic, заяви пред BBC, че превръщането на AI в „напълно нерегулирана индустрия“ означава „да хвърляме зарове с огромен риск“.

Патрик Хилман, главен оперативен директор на Logical Intelligence, председателствана от пионера в AI Ян Льокюн, също посочи ниското доверие на обществото към технологичните компании, когато става дума за действия в обществен интерес.

„Единствената институция, на която американците може би имат по-малко доверие от Вашингтон в наши дни, е Силициевата долина“.

„Ако вярвате, че това, което изграждате, е опасно, покажете ни от какво сте готови да се откажете“, добави той.

Ръководителите на OpenAI и Anthropic заявиха, че наскоро са започнали работа по някакъв вид общо за индустрията споразумение за безопасност.

Амодей каза по време на краткото си участие в конференцията във вторник, че Anthropic вече води „диалог с останалата част от индустрията“ за поемане на ангажименти към по-добри стандарти и проверки за безопасност на AI инструментите и тяхното развитие.

Той посочи още, че една от най-големите изненади от бума на AI не е само развитието на самата технология, а по-широкото ѝ въздействие.

„Не осъзнавахме, че това ще доведе до толкова бърз растеж на компаниите и колко бързо те ще се превърнат в нещо централно за толкова много неща“, заяви Амодей.

Изпълнителният директор на OpenAI Крис Лихейн съобщи миналата седмица, че компанията също работи с други AI лаборатории „за развитие на стандарти за водещите AI технологии, изграждайки доброволна инициатива сега, със или без подкрепата на правителството“.

Сред участниците в тези разговори са Anthropic и Google DeepMind.

„При толкова високи залози не можем да позволим съвършеното да се превърне във враг на доброто“, написа Лихейн.

Новините на Darik Business Review във Facebook , Instagram , LinkedIn и Twitter !

Добави в предпочитани в Google