Колко време може да бъде отговорът на ChatGPT, преди генеративният AI да спре да ви отговаря?
ChatGPT е голяма новина. Но колко големи са отговорите, които получавате от този универсален чатбот?
Установяването на това не е толкова просто, колкото си мислите. Като за начало, задайте точно този въпрос на ChatGPT и ще бъдете сигурни, че няма определени ограничения за дължината на неговите отговори.
Въпреки това, както разкриваме тук, не е толкова лесно. Има скрити ограничения за дължината на отговора на ChatGPT, но има и някои изящни и прости решения, които да ви помогнат да получите по-дълги отговори.
Как ChatGPT определя дължината на отговора?
Как работи ChatGPT е сложно, а дължината на отговора варира в зависимост от това какво се пита и нивото на изискваната детайлност. Както показва следващата екранна снимка, ChatGPT твърди, че няма строги ограничения.
Това не е, което намерихме. Примерът по-долу показва, че ChatGPT внезапно спира отговор по средата на изречението. Помолихме го да напише есе от хиляда думи за ползите от кръговата икономика. ChatGPT спря да отговаря, когато достигна 677 думи.
Повторихме теста няколко пъти с различни въпроси и всеки път спираше по средата на изречението; понякога това беше придружено от мрежова грешка. Това е често срещана грешка и има различни начини за коригиране на мрежови грешки в ChatGPT.
Част от отговора защо това се случва се крие в нещо, наречено токен система.
Какво използва системата за токени ChatGPT?
Вместо просто броене на думи за определяне на дължината както на заявките, така и на отговорите, ChatGPT използва система от токени. Това разделя всеки вход и изход на поредица от токени, използвани за класифициране на размера на заявката и отговора.
Въпреки че броят на думите играе роля в това, това не е цялата история. Например, примерът по-долу беше въведен Инструментът Tokenizer на OpenAi.
Изречението и отговорът бяха „токенизирани“ до стойност от девет токена. Това е в съответствие с „основното правило“ на OpenAI, че един токен е еквивалентен на три четвърти от дума.
Моделът GPT 3.5 ограничава потребителските въпроси и данни до 4097 токена. По изчисления на OpenAI това се равнява на около 3000 думи. Важно е обаче да се отбележи, че това ограничение важи както за отговора, така и за въпроса.
Въпреки че всичко това е добре и добре на теория, резултатите, които срещнахме, никога не се доближиха до тези граници. Непълният отговор, който ChatGPT върна в нашия по-ранен тест, тежи само 798 токена.
Защо отговорите на ChatGPT са ограничени?
Тази новосъздадена технология бързо се превърна в най-обсъжданото технологично развитие през този век. Това генерира огромно търсене на ChatGPT. В крайна сметка това търсене ефективно ограничи отговорите до далеч под посочените граници.
Въпреки че няма официално потвърждение за това, изглежда, че има де факто ограничение от около петстотин думи или 4000 знака.
За да подчертая, това не е фиксирано правило – ние генерирахме резултати, които надхвърлят това с почти двеста думи. Това обаче може да се счита за безопасна горна граница за постигане на пълни отговори.
Как да получите по-дълги отговори от ChatGPT
След като разберете, че има „скрита граница“ за отговорите на ChatGPT, има няколко прости начина, които да ви помогнат да получите по-пълни отговори.
- Помолете ChatGPT да продължи: Ако ChatGPT спре по време на отговор, тогава една от опциите е просто да го помолите да продължи. В примера по-долу написахме „Продължете“ и той добави още двеста думи към отговора.
- Разделете въпроса си на по-малки секции: Например, помолихме го няколко пъти да напише есе за въздействието на ИИ върху обществото. Всеки път отговорът спираше. Една от възможностите тук е да го помолите да посочи някои теми за есе за AI, след което да използвате предоставените точки като отделни подкани.
- Използвайте опцията Регенериране: Въпреки че това може да доведе до същата грешка, без какво да губите, винаги си струва да опитате.
- Посочете горна граница на броя на вашите думи във вашата подкана: Изображението по-долу илюстрира как това може да се използва за манипулиране на максималния брой думи в отговор.
Тези съвети ще ви помогнат да получите по-пълни отговори от ChatGPT и да заобиколите неофициалното ограничение в дължината на неговите отговори.
ChatGPT: Качество пред количество
Въпреки че няма определени ограничения за дължината на отговорите на ChatGPT, платформата изглежда налага ограничение от около петстотин думи или 4000 знака.
Основно това може да се дължи на огромното търсене на ChatGPT. Това доведе до непълни отговори и спиране на отговорите по средата на изречението, но има прости решения, които да ви помогнат да получите по-дълги отговори.
Въпреки своите ограничения, ChatGPT остава забележително технологично развитие, което ще продължи да се развива и разширява границите на качеството и количеството на своята продукция.
