Тъй като областта на изкуствения интелект продължава да се развива с шеметна скорост, нов претендент е готов да влезе в игралното поле. TruthGPT, AI chatbot, предложен от технологичния милиардер Илон Мъск, генерира много шум онлайн.
Но какво е TruthGPT? Защо Илон Мъск иска да го създаде? И как ще се различава от AI инструментите, които вече имаме?
Какво е TruthGPT?
TruthGPT е предложен AI модел, насочен към справяне с недостатъците на съществуващите модели, който захранва модели като ChatGPT и Bard, със специален акцент върху истината и безопасността. Според Илън Мъск, TruthGPT ще бъде „максимално търсещ истината“ AI, който разбира естеството на вселената и е малко вероятно да унищожи човечеството, защото вижда хората като критичен компонент на вселена.
AI за максимално търсене на истината? Разбирате ли природата на Вселената?
Ще ви бъде простено, ако описанието на Мъск не ви даде ясна картина какво точно се опитва да изгради. Въпреки това ще получите по-добра представа за какво говори той, като погледнете защо се опитва да го изгради на първо място.
Защо Илон Мъск изгражда TruthGPT?
В интервю с Фокс нюз, Илън Мъск изрази загрижеността си за това как големите фирми за изкуствен интелект могат да поддържат пристрастия и дезинформация чрез чатботове за изкуствен интелект – нововъзникващ инструмент, от който хората все повече разчитат за информация. Илон Мъск също коментира заплахата, която AI представлява за човечеството, като подчерта възможността за AI апокалипсис, сценарий, при който AI системите могат да поемат контрола върху ежедневието ни.
Изтъквайки компании като OpenAI и Google, които според него не правят достатъчно в областта на безопасността на ИИ и предпазването от дезинформация, Илон Мъск предложи трета сила - TruthGPT. Изпълнителният директор на SpaceX и Tesla иска да създаде TruthGPT като противовес на Bard на Google и ChatGPT на OpenAI. Идеята е да се създаде AI модел, който се опитва да бъде възможно най-верен в информацията, която предоставя.
Илон Мъск, който наскоро написа отворено писмо, призоваващо за a мораториум върху разработването на мощен AI модели (особено тези, които са по-мощни от GPT-4), смята, че AI се движи твърде бързо. Той вярва, че трябва да забавим темпото и да преоценим подхода си към безопасността на ИИ, преди ИИ да „поеме контрола“. TruthGPT е голям езиков модел (LLM), който обещава да се справи с тези две основни проблеми с днешния AI системи.
Как би изглеждал TruthGPT?
Първият намек за това как ще изглежда TruthGPT е в името. Като се има предвид придатъкът „GPT“, TruthGPT вероятно ще има подобна архитектура на ChatGPT. Спомнете си, Илон Мъск помогна за сглобяването на OpenAI и екипа, който изгради GPT модела на ChatGPT.
Освен това, като се има предвид, че архитектурата на GPT се е доказала като технически и търговски успех, преследването на различен път вероятно ще отнеме твърде много време и скъпо. Времето е едно нещо, с което Илън Мъск не разполага, ако иска да изгради нещо, което наистина може да се изправи с най-съвременния AI възможно най-скоро. Така че, не се надявайте твърде много – TruthGPT може да не е толкова радикално различен от инструментите за изкуствен интелект, които вече имаме.
Точността, или на езика на Илън Мъск, „истинността“ на един AI модел зависи до голяма степен от неговите данни за обучение и алгоритъма за обучение. Не сме съвсем сигурни как ще бъдат получени данните за обучение на TruthGPT, но за да получим най-добрия шанс за изграждане на LLM, това е като „доколкото е възможно, TruthGPT на Илон Мъск ще трябва да даде приоритет на данните от „истински източници“. Но точно това е проблем. Истината е много субективно понятие. Това, което е вярно за мен, може да не е вярно за вас.
И така, практична ли е тази идея за AI, търсещ максимално истината?
Защо изграждането на TruthGPT е огромно предизвикателство
Веднъж ти разберете как работят големи езикови модели като GPT, става ясно, че е непрактично да сме коректни през цялото време. Обикновено обучени върху голям набор от интернет данни, голяма част от тях, предвидимо, ще бъде невярна информация, а LLM нямат инертен начин да разграничат фактите от измислицата.
Най-добрата намеса обикновено е от човешки обучители, които се опитват да научат езиковия модел какво е добро поведение и какво е лошо. Но обучителите на хора са пристрастни. Пристрастията се предават на AI моделите, побеждавайки цялата цел на „ИИ, търсещ максимално истината“. Забележете, ние не говорим за откровени пристрастия или предразсъдъци към даден народ или друго. Това е по-финото пристрастие за това как тълкувате езика, ситуациите, предизвикателствата и т.н., които проникват в процеса. В крайна сметка хората са хора.
Разбира се, точността може да бъде разгледана и от страна на алгоритъма. Въпреки това, независимо от алгоритъма, езиковата двусмисленост все още представлява голям проблем за точността на AI моделите. Дори хората често се борят да интерпретират точно значението на изречение или фраза, което води до дезинформация. За AI моделите неяснотата може да доведе до погрешни тълкувания, водещи до неточности.
За Мъск изглежда, че TruthGPT е шанс за него да създаде AI модел, който той смята за подходящ да предаде истината. Как това ще се случи, без да въвежда собствените си пристрастия, е съвсем друг въпрос и ефективно ни връща към началото на разговора. По какво се различават мненията на Мъск относно това кое е пристрастно или не, от тези, които са обучавали и ръководили ChatGPT?
Вълнуваща възможност ли е TruthGPT?
Плановете на Илон Мъск за TruthGPT изглеждат благородни и похвални. Изграждането на AI модел с незначителна честота на неточности обаче е трудна задача.
Въпреки че бихме очаквали технологичен милиардер, който е демистифицирал ракетната наука, да може да направи нещо от този характер, някои неща са по-лесни да се кажат, отколкото да се направят.
