Мъск и Бутерин подкрепят противоречивия законопроект за ИИ

Илон Мъск и Виталик Бутерин изразиха подкрепа за много обсъждания калифорнийски законопроект SB 1047, предназначен да регулира изкуствения интелект.

Това е трудно решение и ще накара някои хора да се разстроят, но като се вземат предвид всички неща, мисля, че Калифорния вероятно трябва да приеме законопроекта за безопасността на SB 1047 AI.

Повече от 20 години съм защитник на регулирането на ИИ, точно както регулираме всеки продукт/технология, който е потенциален риск…

– Илон Мъск (@elonmusk) 26 август 2024 г

„В продължение на повече от 20 години съм привърженик на регулирането на ИИ, точно както регулираме всеки продукт/технология, който представлява потенциален риск за обществото“, каза милиардерът.

През февруари беше предложен Законът за сигурни и надеждни иновации за модерни модели с изкуствен интелект, известен като SB 1047, ако бъде приет, разработчици ще се изисква прилагане на протоколи за сигурност за предотвратяване на масови жертви или големи кибератаки и въвеждане на способността за „аварийно спиране“ на AI модела.

Законопроектът включва и изискване за провеждане на годишни независими одити на безопасността на ИИ. Правилата ще важат само за най-големите модели, тези, които струват поне $100 милиона и използват 10^26 FLOPS за обучение. Те ще засегнат предимно гиганти като OpenAI, Google и Microsoft.

Законодателите в Калифорния по-късно направиха серия от промени, насочени най-вече към намаляване на правомощията на държавното правителство да държи лабораториите за изкуствен интелект отговорни. Въпреки това документът все още държи разработчиците отговорни за опасностите на техните модели.

Виталик Бутерин коментира публикацията на Илон Мъск, отбелязвайки, че целта на документа е да направи тестовете за сигурност задължителни преди пускането на изкуствен интелект, който „може да бъде опасен за света“.

Кое е най-доброто доказателство, че сметката ще се използва за преследване на открити тегла?

Знам, че по-ранните версии на законопроекта имаха изискване за пълно изключване, което е несъвместимо с отворените тегла, но това беше премахнато. И знам, че някои хора по безопасността на ИИ са изразили подкрепа за…

— vitalik.eth (@VitalikButerin) 27 август 2024 г

Голям AI стартъп Anthropic поддържан SB 1047, отбелязвайки, че „ползите от сметката вероятно надвишават разходите“. Промените в оригиналния документ са направени, наред с други неща, по искане на компанията.

Критика

OpenAI говореше се противопостави на SB 1047, вярвайки, че законопроектът ще изгони талантите от Калифорния и ще задуши иновациите.

„Революцията на ИИ едва започва и уникалният статут на Калифорния като глобален лидер в тази област подчертава икономическата динамика на щата. „SB 1047 ще застраши този растеж, ще забави темпото на иновациите и ще принуди разработчиците и предприемачите от световна класа в Калифорния да напуснат щата за нови възможности другаде“, каза главният стратегически директор на OpenAI Джейсън Куон.

Основател на стартъп Extropic и бивш разработчик на Google Гийом Вердон отбелязаче „ИИ може да бъде мощен, но авторитарно правителство с контрол в сянка върху мощен ИИ е по-страшно.“

„Това създава ужасен прецедент на национално ниво и ще отвори вратата за правната война на правителството срещу компании, които не му предлагат задни врати в LLMs“, добави експертът.

Той сравни ситуацията с неотдавнашния арест на основателя на Telegram Павел Дуров и последиците за свободата на словото и децентрализацията.

Документът беше критикуван и от Google, Meta, видни експерти и др. Компанията на Зукърбърг преброениче законопроектът заплашва да направи региона неблагоприятен за развитието и стартирането на AI.

Кога ще бъдат приети?

Калифорнийският комитет по кредитите подкрепи законопроекта в средата на август. Изпратено е на залата на Асамблеята в Калифорния за окончателно гласуване. Ако стъпката бъде приета, ще има гласуване в Сената на щата, след което ще остане подписът на губернатора, който може да наложи вето.

Да припомним, че през август влезе в сила мащабен закон за регулиране на ИИ в ЕС.

Открихте грешка в текста? Изберете го и натиснете CTRL+ENTER