Докато патентованият софтуер като GPT и PaLM доминира на пазара, много разработчици вместо това виждат стойност в езиковите модели с отворен код. Вземете Мета като пример. Той направи заглавия през февруари 2023 г. с официалното пускане на големия езиков модел LLaMA като програма с отворен код. Не е изненадващо, че това решение срещна смесени реакции.
Тъй като езиковите модели с отворен код имат много плюсове и минуси и могат да повлияят положително и отрицателно на AI индустрията, ние обобщихме ключовите точки, които трябва да знаете и разбирате.
5 положителни въздействия на езиковите модели с отворен код
Езиковите модели с отворен код насърчават подход на сътрудничество. Приносът, рецензиите и случаите на използване от разработчици по целия свят вероятно им помагат да напредват по-бързо от затворените проекти.
1. Разработчиците на AI пестят ресурси, използвайки модели с отворен код
Пускането на патентовани езикови модели струва милиони, ако не и милиарди, ресурси. Вземете OpenAI като пример.
Business Insider съобщава, че компанията е трябвало да събере около 30 милиарда долара, за да управлява ефективно ChatGPT. Придобиването на толкова много финансиране е невъзможно за повечето компании. Технологичните стартиращи фирми в ранните си етапи биха имали късмета да достигнат дори седем цифри.Като се имат предвид високите разходи, много разработчици вместо това използват езикови модели с отворен код. Те спестяват милиони, като използват архитектурата на тези системи, невронната структура, данните за обучение, алгоритъма, внедряването на код и наборите от данни за обучение.
2. Моделите с отворен код вероятно напредват по-бързо
Много технологични лидери твърдят, че езиковите модели с отворен код се развиват по-бързо от патентованите аналози. Те ценят приноса на общността и сътрудничеството. Милиони квалифицирани разработчици работят върху отворени проекти – те теоретично биха могли да постигнат безгрешна, сложна итерация много по-бързо.
Покриването на пропуските в знанията също е по-бързо с AI с отворен код. Вместо да обучават екипи да откриват грешки, да тестват актуализации и да изследват реализациите, компаниите могат да анализират приноса на общността. Споделянето на знания позволява на потребителите да работят по-ефективно.
Приносът на общността не винаги е точен. Разработчиците все още трябва да проверяват повторно алгоритмите и моделите, преди да ги интегрират в своите системи.
3. Разработчиците ще откриват уязвимостите по-бързо
Езиковите модели с отворен код насърчават партньорските прегледи и активното ангажиране в общността за сътрудничество. Разработчиците имат свободен достъп до промените в кодовата база. С толкова много потребители, анализиращи отворени проекти, те вероятно ще забележат по-бързо проблеми със сигурността, уязвимости и системни грешки.
По същия начин разрешаването на грешки също е рационализирано. Вместо ръчно разрешаване на системни проблеми, разработчиците могат да проверят системата за контрол на версиите на проекта за предишни поправки. Някои записи може да са остарели. Въпреки това, те все още ще предоставят на изследователите и обучителите на AI полезна отправна точка.
4. Лидерите в сферата на изкуствения интелект се учат от модели с отворен код
Езиковите модели с отворен код се възползват от обратната връзка. Положителната обратна връзка споделя ефективни алгоритми, набори от данни и функции, насърчавайки разработчиците да ги имитират. Процесът им спестява много време. Само имайте предвид, че могат да възникнат грешки с положителна обратна връзка, която потребителите случайно възпроизвеждат - грешките обикновено се пренебрегват.
Междувременно отрицателната обратна връзка се фокусира върху областите на подобрение. Процесът включва споделяне на лични прозрения при разрешаване на грешки, тестване на нови функции и коригиране на системни проблеми.
5. Платформите с изкуствен интелект с отворен код получават първи удари върху новите системи
Технологичните компании не споделят езикови системи за милиарди долари от любезност. Докато лицензите с отворен код предоставят на потребители на трети страни свободата да променят и продават системи, те имат ограничения.
Дистрибуторите често създават условия, които гарантират, че запазват известна власт. Ще намерите тези правила в лицензионните споразумения за програми с отворен код – крайните потребители рядко получават 100 процента пълномощия.
Да кажем, че Meta иска контрол върху продуктите, задвижвани от LLaMA. Юридическият му екип може да уточни, че Meta си запазва правото да инвестира във всякакви нови системи, изградени на неговия езиков модел.
Но не разбирайте погрешно – разработчиците и дистрибуторите на трети страни все още сключват взаимноизгодни споразумения. Последният предоставя технологии и системи за милиарди долари. Междувременно стартиращи компании и независими разработчици проучват начини за внедряването им в различни приложения.
5 отрицателни въздействия на езиковите модели с отворен код
Езиковите модели с отворен код са по своята същност безпристрастни, но хората не са. Потребители, разработчици и компании със злонамерени намерения биха могли да използват отворения характер на тези системи за лична изгода.
1. Компаниите случайно се присъединяват към надпреварата с ИИ
В момента компаниите са изправени пред твърде голям натиск да се включат в надпреварата с ИИ. С популяризирането на AI системите много компании се опасяват, че ще остареят, ако не приемат AI. В резултат на това марките безразборно скачат. Те интегрират езикови модели с отворен код в своите продукти в името на продажбата на продукта и поддържане на конкуренцията, дори и да не предлагат нищо ценно.
Да, AI е бързо развиващ се пазар. Но небрежното пускане на сложни, но несигурни системи вреди на индустрията и компрометира безопасността на потребителите. Разработчиците трябва да използват AI за решаване на проблеми, а не да изпълняват маркетингови трикове.
2. Потребителите получават достъп до технологии, които едва разбират
Ще намерите базирани на AI варианти на различни технически инструменти от онлайн редактори на изображения да се приложения за наблюдение на здравето. И марките ще продължат да въвеждат нови системи, докато AI се развива. AI моделите им помагат да осигурят по-персонализирани, фокусирани върху потребителя итерации на техните съществуващи платформи.
Докато технологичната индустрия приветства иновациите, бързото развитие на ИИ изпреварва обучението на потребителите. Потребителите получават достъп до технологии, които едва разбират. Липсата на образование създава огромни пропуски в знанията, което прави обществото податливо на заплахи за киберсигурността и хищнически практики.
Марките трябва да дават приоритет на обучението толкова, колкото на разработването на продукта. Те трябва да помогнат на потребителите да разберат безопасните и отговорни начини за използване на мощни инструменти, базирани на AI.
3. Не всички разработчици имат добри намерения
Не всеки използва AI инструменти по предназначение. Например OpenAI разработи ChatGPT, за да отговори на безопасни за работата въпроси с общи знания и да възпроизведе изход на естествен език, но престъпниците го използват за незаконни дейности. Имаше няколко Измами с ChatGPT от стартирането на AI chatbot през ноември 2022 г.
Дори лабораториите за изкуствен интелект да налагат строги ограничения, мошениците пак ще намерят начини да ги заобиколят. Вземете отново ChatGPT като пример. Потребителите заобикалят ограниченията и изпълняват забранени задачи, като използват Подкани за джейлбрейк на ChatGPT.
Разговорите по-долу демонстрират тези уязвимости. ChatGPT има ограничен набор от данни; следователно не може да прави прогнози за нестабилни, негарантирани събития.
Въпреки ограниченията си, ChatGPT изпълни нашата заявка и предостави неоснователни прогнози, след като я разби.
4. Институциите може да имат проблеми с регулирането на ИИ с отворен код
Регулаторните органи се борят да се справят с ИИ, а разпространението на модели с отворен код само затруднява наблюдението. Напредъкът на ИИ вече изпреварва регулаторните рамки. Дори глобални технологични лидери като Илон Мъск, Бил Гейтс и Сам Олтман призовава за по-стриктно регулиране на ИИ.
Частният и държавният сектор трябва да контролират тези системи. В противен случай злонамерените лица ще продължат да ги експлоатират, за да нарушат законите за поверителност на данните, изпълнят кражба на самоличности жертви на измами, наред с други незаконни дейности.
5. По-ниските бариери за навлизане пречат на качеството
Разпространението на езикови модели с отворен код намалява бариерите за навлизане за присъединяване към надпреварата с ИИ. Ще намерите хиляди базирани на AI инструменти онлайн.
Виждането на компании, които приемат машинно и задълбочено обучение, може да изглежда впечатляващо, но малко от тях предоставят някаква реална стойност. Повечето просто копират своите конкуренти. С течение на времето достъпността на сложни езикови модели и набори от данни за обучение може да превърне в стока безсмислените платформи за ИИ.
Цялостното въздействие на езиковите модели с отворен код върху AI индустрията
Докато езиковите модели с отворен код правят AI технологиите по-достъпни, те също така представляват няколко риска за сигурността. Разработчиците трябва да поставят по-строги ограничения. В противен случай мошениците ще продължат да използват прозрачната архитектура на тези системи.
Въпреки това, потребителите не са напълно беззащитни срещу AI измами. Запознайте се с обичайните начини, по които мошениците използват генеративни AI инструменти и проучете предупредителните знаци за атаки. Можете да се борите с повечето киберпрестъпления, като останете бдителни.
