Последните иновации около технологиите, базирани на AI, разширяват границите на това, което някога смятахме, че е възможно с AI. Въпреки това, тъй като чатботове като ChatGPT и Bing Chat стават почти толкова добри, колкото хората в няколко неща, време ли е да натиснете спирачките за известно време?
Илон Мъск и няколко изследователи на AI са сред 1188 души (към момента на писане), които смятат така. Писмо, публикувано от института с нестопанска цел Future of Life, призовава за шестмесечна пауза за обучение на AI технологии, по-добри от GPT 4, но наистина ли е необходима пауза?
Какво представлява отвореното писмо за бъдещето на живота?
The писмо, публикувано от института Future of Life посочва, че лабораториите за изкуствен интелект са били „заключени в надпревара извън контрол“ за разработване и внедряване на повече и по-мощни AI модели, които никой, включително техните създатели, не могат да „разберат, предскажат или надеждно контрол“.
Той също така посочва, че съвременните системи за изкуствен интелект сега стават конкурентоспособни на хората при общи задачи и пита дали трябва да развием „нечовешки умове, които в крайна сметка биха могли да надминат, надхитрит, остареят и заменят нас".
В крайна сметка писмото призовава всички лаборатории за изкуствен интелект незабавно да спрат обучението на системи с изкуствен интелект, по-мощни от GPT-4, за поне шест месеца. Паузата трябва да бъде публична и да може да се провери и от всички ключови участници. Той също така посочва, че ако такава пауза не може да бъде наложена бързо, правителствата трябва да се намесят, за да забранят временно обучението на AI модели.
След като паузата е активна, AI лаборатории и независими експерти са помолени да я използват за съвместно разработване и внедряване на „споделен набор от протоколи за сигурност“, за да се гарантира, че системите, спазващи тези правила, са „безопасни отвъд разумното съмнение".
Това писмо е подписано от доста имена, включително Илон Мъск, Стив Возняк и изследователи и автори на AI. Всъщност списъкът с подписалите в момента е на пауза поради голямото търсене.
Какви са притесненията на Мъск относно Advanced AI Tech и OpenAI?
Въпреки че подписването на писмото на Future of Life може да означава, че Мъск е загрижен за рисковете за безопасността, които представляват такива усъвършенствани AI системи, истинската причина може да е нещо друго.
Мъск съоснова OpenAI с настоящия главен изпълнителен директор Сам Алтман през 2015 г. като организация с нестопанска цел. Въпреки това, той се сблъска с Алтман по-късно през 2018 г., след като осъзна, че не е доволен от напредъка на компанията. Съобщава се, че Мъск е искал да поеме, за да ускори разработката, но Алтман и бордът на OpenAI са отхвърлили идеята.
Малко след това Мъск се оттегли от OpenAI и взе парите си със себе си, като наруши обещанието си да допринесе за финансиране от 1 милиард и даде само 100 милиона преди да напусне. Това принуди OpenAI да стане частна компания малко след март 2019 г., за да събере финансиране, за да продължи своите изследвания.
Друга причина Мъск да напусне е, че развитието на AI в Tesla ще доведе до конфликт на интереси в бъдеще. Очевидно е, че Tesla се нуждае от усъвършенствани AI системи, за да захранва своята Пълни функции за самостоятелно шофиране. Откакто Мъск напусна OpenAI, компанията избяга със своите AI модели, стартирайки Задвижван от GPT3.5 ChatGPT през 2022 г. и по-късно с GPT-4 през март 2023 г.
Фактът, че AI екипът на Мъск не е близо до OpenAI, трябва да се отчита всеки път, когато той казва, че съвременните AI модели могат да представляват риск. Той също нямаше проблеми пускане на Tesla Full Self-Driving beta по обществени пътища, като по същество превръща обикновените шофьори на Tesla в бета тестери.
Това също не свършва тук. Мъск също беше доста критичен към OpenAI в Twitter, като Алтман стигна дотам, че каза, че ги атакува, докато се появяваше в подкаста „On with Kara Swisher“ наскоро.
В момента изглежда, че Мъск просто използва писмото за бъдещето на живота, за да спре развитието на OpenAI и всяка друга фирма, която наваксва към GPT-4, за да даде на компаниите си шанс да наваксат изоставането, вместо всъщност да се тревожат за потенциалните опасности, които тези AI модели поза. Обърнете внимание, че в писмото също така се иска да се спре „обучението“ на AI системи за шест месеца, което може да бъде сравнително лесно заобиколено, за да продължите да ги развивате междувременно.
Наистина ли е необходима пауза?
Необходимостта от пауза зависи от състоянието на AI моделите в бъдеще. Писмото определено е малко драматично по тон и ние не рискуваме да загубим контрола над нашата цивилизация в полза на AI, както то толкова открито се заявява. Това каза, AI технологиите наистина представляват няколко заплахи.
Като се има предвид, че OpenAI и други AI лаборатории могат да предложат по-добри проверки за безопасност, паузата би причинила повече вреда, отколкото полза. Въпреки това предложението в писмото за набор от споделени протоколи за безопасност, които са „строго одитирани и наблюдавани от независими външни експерти“, звучи като добра идея.
Тъй като технологични гиганти като Google и Microsoft наливат милиарди в разработката на AI и интегрирането в техните продукти, е малко вероятно писмото да повлияе на сегашното темпо на развитие на AI.
AI е тук, за да остане
С технологичните гиганти, които продължават да интегрират AI в своите продукти и влагат милиарди долари в изследвания и разработки, AI е тук, за да остане, независимо от това какво казва опозицията.
Но не е лоша идея да се прилагат мерки за безопасност, за да се предотврати излизането на тези технологии от релсите и потенциалното им превръщане в инструменти за вреда.