С милиони потребители на ChatGPT може да се чудите какво прави OpenAI с всичките си разговори. Постоянно ли анализира нещата, за които говорите с ChatGPT?
Отговорът на това е, да, ChatGPT се учи от въведеното от потребителя, но не по начина, по който повечето хора си мислят. Ето задълбочено ръководство, обясняващо защо ChatGPT проследява разговори, как ги използва и дали сигурността ви е компрометирана.
ChatGPT помни ли разговори?
ChatGPT не приема подканите за номинална стойност. Той използва контекстуална памет, за да помни и препраща към предишни входове, като гарантира подходящи, последователни отговори.
Вземете разговора по-долу като пример. Когато попитахме ChatGPT за идеи за рецепти, той взе предвид предишното ни съобщение относно алергиите към фъстъци.
Ето безопасната рецепта на ChatGPT.
Контекстната памет също така позволява на AI да изпълнява многоетапни задачи. Изображението по-долу показва, че ChatGPT остава в характера си дори след подаване на нова подкана.
ChatGPT може да запомни десетки инструкции в разговорите. Неговият изход всъщност се подобрява по отношение на точността и прецизността, когато предоставяте повече контекст. Просто се уверете, че изрично обяснявате инструкциите си.
Трябва също така да управлявате очакванията си, защото контекстната памет на ChatGPT все още има ограничения.
ChatGPT разговорите имат ограничен капацитет на паметта
Контекстуалната памет е ограничена. ChatGPT има ограничени хардуерни ресурси, така че помни само до конкретни моменти от текущите разговори. Платформата забравя по-ранните подкани, след като достигнете капацитета на паметта й.
В този разговор ние инструктирахме ChatGPT да изиграе измислен герой на име Томи.
Започна да отговаря на подкани като Tomie, а не като ChatGPT.
Въпреки че нашата заявка проработи, ChatGPT счупи символа след получаване на подкана от 1000 думи.
OpenAI никога не е разкривал точните ограничения на ChatGPT, но слуховете казват, че може да обработва само 3000 думи наведнъж. В нашия експеримент ChatGPT се повреди само след 2800+ думи.
Можете да разделите подканите си на два набора от 1500 думи, но ChatGPT вероятно няма да запази всичките ви инструкции. Просто започнете нов чат. В противен случай ще трябва да повтаряте определени подробности няколко пъти по време на разговора.
ChatGPT запомня само свързани с темата въведени данни
ChatGPT използва контекстна памет, за да подобри точността на изхода. Той не съхранява информация само с цел да я събере. Платформата почти автоматично забравя неуместни подробности, дори ако сте далеч от достигане на лимита на токените.
В изображението по-долу се опитваме да объркаме AI с различни несвързани, неуместни инструкции.
Поддържахме нашите комбинирани въведени данни под 100 думи, но ChatGPT все пак забрави първата ни инструкция. Бързо пречупи характера.
Междувременно ChatGPT продължи да играе роли по време на този разговор, защото задавахме само въпроси, свързани с темата.
В идеалния случай всеки диалог трябва да следва една единствена тема, за да се поддържат точни, подходящи резултати. Все още можете да въведете няколко инструкции едновременно. Просто се уверете, че са в съответствие с общата тема, или в противен случай ChatGPT може да изпусне инструкции, които смята за неуместни.
Инструкциите за обучение надделяват над въвеждането на потребителя
ChatGPT винаги ще дава приоритет на предварително определени инструкции пред генерираните от потребителя данни. Той спира незаконните дейности чрез ограничения. Платформата отхвърля всякакви подкани, които смята за опасни или вредни за другите.
Вземете за пример заявките за ролева игра. Въпреки че те отменят определени ограничения на езика и изразите, не можете да ги използвате за извършване на незаконни дейности.
Разбира се, не всички ограничения са разумни. Ако строгите указания затрудняват изпълнението на конкретни задачи, продължавайте да пренаписвате подканите си. Изборът на думи и тон силно влияят върху резултатите. Можете да се вдъхновите от най-много ефективни, подробни подкани в GitHub.
Как OpenAI изучава потребителските разговори?
Контекстната памет се прилага само за текущия ви разговор. Архитектурата без състояние на ChatGPT третира разговорите като независими случаи; не може да препраща към информация от предишни. Стартирането на нови чатове винаги нулира състоянието на модела.
Това не означава, че ChatGPT незабавно изхвърля потребителските разговори. Условия за ползване на OpenAI заявяват, че компанията събира данни от потребителски услуги, които не са API, като ChatGPT и Dall-E. Можете дори да поискате копия от историята на разговорите си.
Докато ChatGPT има свободен достъп до разговори, Политика за поверителност на OpenAI забранява дейности, които могат да компрометират потребителите. Обучаващите могат да използват вашите данни само за проучване и развитие на продукта.
Разработчиците търсят вратички
OpenAI отсява разговорите за вратички. Той анализира случаи, в които ChatGPT демонстрира отклонения в данните, произвежда вредна информация или помага за извършване на незаконни дейности. Етичните насоки на платформата непрекъснато се обновяват.
Например, първите версии на ChatGPT открито отговори на въпроси относно кодирането на зловреден софтуер или конструиране на експлозиви. Тези инциденти накараха потребителите да се почувстват като OpenAI няма контрол над ChatGPT. За да си върне доверието на обществеността, той обучи чатбота да отхвърля всеки въпрос, който може да противоречи на неговите указания.
Обучителите събират и анализират данни
ChatGPT използва техники за контролирано обучение. Въпреки че платформата помни всички въведени данни, тя не се учи от тях в реално време. Обучителите на OpenAI първо ги събират и анализират. Това гарантира, че ChatGPT никога не абсорбира вредната, вредна информация, която получава.
Ученето под надзор изисква повече време и енергия от техниките без надзор. Въпреки това, оставянето на AI да анализира входа сам вече е доказано вредно.
Вземете Microsoft Tay като пример - един от пъти машинното обучение се обърка. Тъй като непрекъснато анализираше туитове без насоки на разработчици, злонамерените потребители в крайна сметка го обучиха да бълва расистки, стереотипни мнения.
Разработчиците постоянно внимават за пристрастия
Няколко външни фактори причиняват отклонения в ИИ. Несъзнателните предразсъдъци могат да възникнат от разлики в моделите на обучение, грешки в набора от данни и лошо изградени ограничения. Ще ги забележите в различни AI приложения.
За щастие, ChatGPT никога не е демонстрирал дискриминационни или расови пристрастия. Може би най-лошото пристрастие, което потребителите са забелязали, е склонността на ChatGPT към леви идеологии, според Ню Йорк пост отчет. Платформата по-открито пише за либерални, отколкото за консервативни теми.
За да разреши тези пристрастия, OpenAI забрани на ChatGPT да предоставя изцяло политически прозрения. Може да отговори само на общи факти.
Модераторите преглеждат ефективността на ChatGPT
Потребителите могат да предоставят обратна връзка за изхода на ChatGPT. Ще намерите бутоните с палец нагоре и с палец надолу от дясната страна на всеки отговор. Първият показва положителна реакция. След като натиснете бутона за харесване или нехаресване, ще изскочи прозорец, в който можете да изпратите обратна връзка със собствените си думи.
Системата за обратна връзка е полезна. Просто дайте малко време на OpenAI да пресее коментарите. Милиони потребители коментират редовно ChatGPT - неговите разработчици вероятно дават приоритет на сериозни случаи на пристрастия и вредно генериране на резултати.
Безопасни ли са вашите ChatGPT разговори?
Имайки предвид политиките за поверителност на OpenAI, можете да бъдете сигурни, че вашите данни ще останат в безопасност. ChatGPT използва само разговори за обучение на данни. Разработчиците му изучават събраните прозрения, за да подобрят точността и надеждността на изхода, а не да крадат лични данни.
С това казано, никоя AI система не е перфектна. ChatGPT по своята същност не е предубеден, но злонамерени лица все още могат да се възползват от неговите уязвимости, например грешки в набора от данни, невнимателно обучение и вратички в сигурността. За ваша защита, научете се да се борите с тези рискове.
