Днес милиони разчитат на ChatGPT като полезен ресурс, било то за работа, забавление или образование. Но можете ли да разчитате на този AI chatbot винаги да предоставя фактите? ChatGPT лъже ли някога или ще ви даде само фактическа информация?
Откъде ChatGPT получава информация?
В своя период на обучение ChatGPT получи данни от източници в мрежата, като уебсайтове на правителства и агенции, научни списания, проучвания, новинарски статии, подкасти, онлайн форуми, книги, бази данни, филми, документални филми и социални медии.
По-конкретно, ChatGPT-3 беше обучен с помощта на обширна база данни с информация, която възлиза на 570 GB данни. Както се казва в статия от Научен фокус, 300 милиарда думи информация бяха въведени в системата GPT-3 по време на нейното разработване.
Нещо, което си струва да се отбележи тук е, че ChatGPT е получавал само данни, които са съществували преди 2021 г. Това означава, че чатботът не може да отговаря на въпроси, свързани със скорошни събития. ChatGPT също няма достъп до интернет. Данните, които са били подавани в обучението, са единственият вид, който използва за изпълнение на потребителски подкани.
Но дали ChatGPT само ви предоставя фактите, или в отговорите му се смесва някаква по-двусмислена информация? Освен това, може ли ChatGPT да ви излъже?
Лъже ли ChatGPT?
Докато ChatGPT често предоставя вярна информация на потребителите, той има способността да „лъже“. Разбира се, ChatGPT не решава злонамерено да лъже потребителите, тъй като просто не може да го направи. В крайна сметка ChatGPT е инструмент за обработка на език, а не имитация на истински, съзнателен човек.
Технически обаче ChatGPT все още може да лъже чрез феномен, известен като AI халюцинация.
AI халюцинация включва AI система, предоставяща информация, която изглежда разумна или правдоподобна, но в действителност изобщо не е вярна. Всъщност халюцинацията на AI може да предостави информация, че никога не е била хранена по време на периода на обучение. Алтернативно, това може да се случи, когато AI система предоставя информация, която не е свързана с подканата или заявката. Една AI система може дори да твърди, че е човек в случай на халюцинация.
Системите с изкуствен интелект, като chatbots, попадат в капана на халюцинациите поради няколко причини: липсата им на разбиране на реалния свят, софтуерни грешки и ограничения на предоставените данни.
Както беше посочено по-рано, ChatGPT може да предоставя информация само като използва данни, публикувани до 2021 г., което със сигурност ограничава какви видове подкани може да изпълнява.
Един от Големите проблеми на ChatGPT е, че може също да стане жертва на пристрастие, когато предоставя информация на потребителите. Дори създателите на ChatGPT са заявили, че AI системата е била „политически пристрастна, обидна“ и „по друг начин нежелателна“ в миналото. Както съобщиха от The Independent, разработчиците на ChatGPT са се ангажирали да се справят с този проблем, но това не означава, че вече не представлява риск.
На въпрос ChatGPT заяви, че причините, поради които може да предостави неточна информация, включват следното:
- Неяснота във въпроса (неясни, неясни подсказки);
- Предоставена непълна информация;
- Предоставена пристрастна или невярна информация; или,
- Технически ограничения (основно поради липса на достъп до актуални данни).
И така, самият ChatGPT заяви, че има сценарии, при които няма да предостави точна информация на потребителите.
В друг отговор в същия разговор ChatGPT заяви, че „винаги е добра идея да проверявате всяка информация [предоставена] с други източници.“
Можете ли да се доверите на ChatGPT?
Тъй като може да предостави невярна информация, вие ясно не може да се довери на ChatGPT 100% от времето.
Можете да намалите риска AI chatbot да халюцинира, като зададете конкретни параметри за това как може да ви отговори. Въпреки това все още няма гаранция, че някоя невярна информация няма да се промъкне през пукнатините.
Поради това е най-добре да проверявате всяка информация, която ChatGPT ви предоставя, особено ако искате информация за скорошни събития. Двойната проверка на тези данни чрез позоваване на други източници може да ви помогне да определите дали ChatGPT е прав в това, което казва, и може да ви попречи да вземете необмислени решения.
ChatGPT е полезен, но не винаги е верен
За съжаление, не можете да разчитате на ChatGPT да предостави вярна, безпристрастна информация в 100% от времето. Този базиран на AI чатбот е безспорно полезен и може да ви помогне по различни начини, но винаги си струва да проверите дали информацията, която предоставя, е достоверна.