Главният изпълнителен директор на OpenAI Сам Алтман призова обществото да има повече доверие в компаниите, които разработват изкуствен интелект, и заяви, че индустрията е способна да гарантира безопасното развитие на технологията.
„Светът трябва да вярва, че ще постъпим правилно, защото това е правилното нещо", заяви Алтман във вторник по време на конференция в Сан Франциско, организирана от софтуерната компания Salesforce, съобщава Би Би Си.
В същото време той призна, че опасенията на обществото са напълно основателни на фона на бързото развитие на възможностите на изкуствения интелект.
„Светът има основание да се страхува от това", каза Алтман. По думите му вече е много по-лесно да си представим сценарии, при които технологията може да бъде използвана или да се развие по опасен начин.
Изказването му идва дни след като бивш изследовател от AI компанията Anthropic публикува широко разпространено предупреждение, че при липса на контрол изкуственият интелект би могъл да доведе до унищожаването на човечеството още до края на десетилетието.
Няколко ръководители и експерти в областта на изкуствения интелект заявиха, че споделят подобни опасения, макар да не представиха конкретни доказателства или подробен механизъм, по който би се реализирал подобен сценарий.
Дебатът засили натиска върху технологичната индустрия. Главният изпълнителен директор на Anthropic Дарио Амодей призова за забавяне на темпото на развитие на AI технологиите и за по-активна намеса на правителствата чрез регулации.
Сам Алтман, съоснователят на Google DeepMind Демис Хасабис и Илон Мъск публично приветстваха предупреждението.
В същото време част от лидерите в индустрията все по-често говорят за саморегулация, вместо за въвеждане на допълнителни държавни ограничения.
Алтман заяви, че вярва в способността както на OpenAI, така и на цялата индустрия да се справят с рисковете.
След коментарите на Алтман, шефът на Meta Марк Зукърбърг написа в X, че всяка лаборатория за изкуствен интелект има възможността и стимула „да предприема собствени действия", насочени към създаването на AI инструменти и модели, проектирани с оглед на безопасността.
„Всяка лаборатория, която не се фокусира върху подравняването [на AI с човешките ценности и цели], ще изостане", написа Зукърбърг. „Лабораториите са изправени пред значителна юридическа отговорност, ако техните модели причинят вреди, така че имат силен стимул да предотвратяват това." Дженсън Хуанг, ръководителят на Nvidia, също заяви на конференцията във вторник, че самите AI компании трябва да решават дали новите версии на технологията да бъдат пускани, а не това да се управлява от външни фактори.
„Не се нуждаем от нови закони или регулации", каза Хуанг, като добави, че не бива да има „фалшив избор" между бързината на иновациите и безопасността на AI продуктите. Nvidia е най-голямата компания в света по пазарна оценка, като печалбите ѝ нараснаха рязко вследствие на огромното търсене на AI чиповете, които произвежда.
„Безопасността е от първостепенно значение. Въпреки това безопасността е инженерно предизвикателство", каза Хуанг. Той добави, че ако в даден момент ръководителят на AI компания не е уверен в продукта си, той трябва да избере да не го пуска.
