ChatGPT е мощен нов чатбот с изкуствен интелект, който бързо впечатлява, но въпреки това много хора посочиха, че има някои сериозни капани. Попитайте го каквото искате и ще получите отговор, който звучи сякаш е написано от човек, след като е научил своите знания и умения за писане от огромни количества информация в интернет.
Точно както в интернет обаче, истината и фактите не винаги са даденост и ChatGPT е виновен, че го е сбъркал. След като ChatGPT ще промени нашето бъдеще, ето някои от най-големите притеснения.
Какво е ChatGPT?
ChatGPT е голям модел за изучаване на езици, който е проектиран да имитира човешки разговор. То може да си спомни неща, които сте му казали в миналото, и е в състояние да се поправи, когато сгреши.
Той пише по човешки начин и има богатство от познания, защото е обучен върху всякакви текстове от интернет, като Wikipedia, публикации в блогове, книги и академични статии.
Лесно се учи как да използвате ChatGPT, но по-голямо предизвикателство е да разберете кои са най-големите му проблеми. Ето някои, за които си струва да знаете.
1. ChatGPT не винаги е прав
Той се проваля в основната математика, изглежда не може да отговори на прости логически въпроси и дори ще стигне дотам, че да аргументира напълно неверни факти. Както потребителите на социални медии могат да потвърдят, ChatGPT може да го обърка повече от един път.
OpenAI знае за това ограничение, като пише, че: "ChatGPT понякога пише правдоподобно звучащи, но неправилни или безсмислени отговори." Това "халюцинация" на факти и измислици, както някои учени го наричат, е особено опасно, когато става дума за нещо като медицина съвет.
За разлика от други AI асистенти като Siri или Alexa, Chat GPT не използва интернет, за да намери отговори. Вместо това, той конструира изречение дума по дума, избирайки най-вероятния „токен“, който следва да дойде, въз основа на своето обучение.
С други думи, ChatGPT стига до отговор, като прави поредица от предположения, което е част от причината да може да аргументира грешни отговори, сякаш са напълно верни.
Въпреки че е страхотен при обяснението на сложни концепции, което го прави мощен инструмент за учене, важно е да не вярвате на всичко, което казва. ChatGPT не винаги е правилен – поне не още.
2. Пристрастията са вградени в системата
ChatGPT беше обучен за колективното писане на хора по целия свят, минало и настояще. Това означава, че същите отклонения, които съществуват в данните, могат да се появят и в модела.
Всъщност потребителите показаха как ChatGPT може да даде някои ужасни отговори, някои, например, които дискриминират жените. Но това е само върхът на айсберга; може да даде отговори, които са изключително вредни за редица малцинствени групи.
Вината също не е просто в данните. Изследователите и разработчиците на OpenAI избират данните, които се използват за обучение на ChatGPT. За да помогне за справяне с това, което OpenAI нарича „предубедено поведение“, той моли потребителите да дадат обратна връзка за лоши резултати.
С потенциала да причини вреда на хората, можете да твърдите, че ChatGPT не е трябвало да бъде публикуван за обществеността, преди тези проблеми да бъдат проучени и решени.
Подобен AI чатбот, наречен Sparrow (собственост на компанията майка на Google, Alphabet), беше пуснат през септември 2022 г. Той обаче беше държан при затворени врати поради подобни опасения, че може да причини вреда.
Може би Мета също трябваше да оглави предупреждението. Когато пусна Galactica, езиков модел на AI, обучен върху академични документи, той бързо беше изтеглен, след като много хора го критикуваха за извеждане на грешни и пристрастни резултати.
3. Предизвикателство към английския в гимназията
Можете да поискате от ChatGPT да коригира написаното от вас или да посочи как да подобрите абзац. Като алтернатива можете напълно да се премахнете от уравнението и да помолите ChatGPT да напише нещо за вас.
Учителите са експериментирали с подаването на задачи по английски в ChatGPT и са получили отговори, които са по-добри от това, което много от техните ученици могат да направят. От писане на мотивационни писма до описване на основни теми в известно литературно произведение, ChatGPT може да го направи без колебание.
Това повдига въпроса: ако ChatGPT може да пише за нас, ще трябва ли учениците да се научат да пишат в бъдеще? Може да изглежда като екзистенциален въпрос, но когато учениците започнат да използват ChatGPT, за да помогнат при написването на своите есета, училищата ще трябва бързо да измислят отговор. Бързото внедряване на AI през последните години ще шокира много индустрии и образованието е само една от тях.
4. Може да причини вреди в реалния свят
По-рано споменахме как неправилната информация от ChatGPT може да причини вреди в реалния свят, като най-очевидният пример е грешният медицински съвет.
Има и други опасения. Фалшивите акаунти в социалните медии представляват огромен проблем в интернет и с въвеждането на AI chatbots интернет измамите ще станат по-лесни за извършване. Разпространението на фалшива информация е друга грижа, особено когато ChatGPT кара дори грешните отговори да звучат убедително правилно.
Скоростта, с която ChatGPT може да произвежда отговори, които не винаги са правилни, вече е причинила проблеми на Stack Exchange, уебсайт, където потребителите могат да публикуват въпроси и да получават отговори.
Скоро след пускането му отговорите от ChatGPT бяха забранени от сайта, тъй като голяма част от тях бяха грешни. Без достатъчно човешки доброволци, които да сортират натрупаните задачи, би било невъзможно да се поддържа високо ниво на качествени отговори, причинявайки щети на уебсайта.
5. OpenAI има цялата сила
С голямата сила идва и голяма отговорност, а OpenAI притежава много власт. Това е една от първите AI компании, които наистина разтърсиха света не с един, а с множество AI модели, включително Dall-E 2, GPT-3 и сега ChatGPT.
OpenAI избира какви данни да се използват за обучение на ChatGPT и как се справя с негативните последици. Независимо дали сме съгласни с методите или не, той ще продължи да развива тази технология според собствените си цели.
Въпреки че OpenAI счита безопасността за висок приоритет, има много неща, които не знаем за това как се създават моделите. Независимо дали смятате, че кодът трябва да бъде отворен, или сте съгласни, че трябва да пази части от него в тайна, не можем да направим много по въпроса.
В края на деня всичко, което можем да направим, е да се доверим, че OpenAI ще изследва, разработва и използва отговорно ChatGPT. Като алтернатива можем да се застъпваме за това повече хора да имат думата в каква посока трябва да се насочи AI, споделяйки силата на AI с хората, които ще го използват.
Ако се интересувате какво още е разработил OpenAI, вижте нашите статии как да използвате Dall-E 2 и как да използвате GPT-3.
Справяне с най-големите проблеми на ИИ
Има какво да ви вълнува с ChatGPT, най-новата разработка на OpenAI. Но освен непосредствените му употреби, има някои сериозни проблеми, които си струва да бъдат разбрани.
OpenAI признава, че ChatGPT може да произведе вредни и пристрастни отговори, да не говорим за способността му да смесва факти с измислици. С такава нова технология е трудно да се предвиди какви други проблеми ще възникнат. Така че дотогава се наслаждавайте на проучването на ChatGPT и внимавайте да не вярвате на всичко, което казва.