Какво е TensorFlow Lite и как е рамка за задълбочено обучение?

Може да сте попадали на TensorFlow Lite, докато сте преминавали през дъски за разработка на Edge AI или проекти за ускоряване на AI.

TensorFlow Lite е рамка от софтуерни пакети, която позволява обучение по ML локално на хардуера. Тази обработка и изчисляване на устройства позволяват на разработчиците да стартират своите модели на целеви хардуер. Хардуерът включва платки за разработка, хардуерни модули, вградени и IoT устройства.

Преглед на рамката TensorFlow Lite

TensorFlow е популярен термин в дълбокото обучение, тъй като много разработчици на ML използват тази рамка за различни случаи на употреба. Осигурява лекота на изпълнение модели за машинно обучение и изводи за приложения на ИИ.

Но TensorFlow Lite е задълбочена рамка за локално заключение, особено за ниския изчислителен хардуер. Той позволява машинно обучение на устройството, като помага на разработчиците да стартират своите модели на съвместим хардуер и IoT устройства.

Разработчикът трябва да избере подходящ модел в зависимост от случая на употреба. Рамката също така дава възможност за преквалификация на съществуващия модел и на персонализиран набор от данни. Тъй като буферният модел на протокола на TensorFlow се предлага с голям размер и изисква усъвършенствана изчислителна мощност, по този начин той позволява преобразуването на модела TensorFlow в модела TensorFlow Lite.

Персонализирането на параметрите за оптимизиране и квантуване позволява намаляване на размера на модела и латентността.

Освен предимствата на латентността и размера на TensorFlow Lite, рамката осигурява сигурност на данните, тъй като обучението се извършва локално на устройството. Освен това няма нужда от интернет връзка. По този начин внедряването на приложения не е ограничено до конкретни области със свързаност.

Тези фактори в крайна сметка намаляват натоварването на потреблението на енергия на устройството чрез елиминиране на фактора на свързаност и увеличаване на ефективността на извода за дълбоко обучение.

Модели на рамката TensorFlow Lite съществуват в междуплатформен формат, известен като FlatBuffers. Това е библиотека за сериализация, която съхранява йерархични данни в плосък двоичен буфер, така че е възможен директен достъп без разопаковане. Можете също така да наблюдавате разширението „.tflite“ за моделите TensorFlow Lite. Тази техника на представяне позволява оптимизации в изчисленията и намалява изискванията за памет. Следователно го правим много по-добър от моделите TensorFlow

TinyML на TensorFlow Lite Micro

Тъй като TensorFlow Lite е съвместим с различни платформи за приложения на Edge AI, беше необходима допълнителна конвергенция на библиотеката. Следователно организацията излезе с подмножество библиотека на TensorFlow Lite, известна като TensorFlow Lite Micro. TensorFlow Lite Micro специално управлява модели за машинно обучение на микроконтролери локално с минимални изисквания за памет от около няколко килобайта.

Основното изпълнение на процедурата се интегрира с 16KB на Arm Cortex M3 и може да работи на различни модели. Рамката не изисква допълнителна поддръжка на ОС или други езикови библиотеки на високо ниво като зависимости за стартиране на извода на устройството.

Разработването на TensorFlow Lite Micro се корени в C ++ 11, който се нуждае от 32-битова архитектура за съвместимост. Говорейки повече за архитектурите, библиотеката работи отлично върху стабилна гама процесори, базирани на Arm Cortex-M серията архитектура на други дизайнерски архитектури като ESP32.

Работен поток за калъфи за микроупотреба TensorFlow Lite

Процесът на обучение на невронната мрежа изисква висок изчислителен хардуер. По този начин се обучава на общото Модел TensorFlow. Обучението обаче се изисква само ако персонализиран набор от данни отговаря на модел за задълбочено обучение, докато предварително обучените модели на рамката също могат да се използват за приложенията.

Ако приемем случай на персонализирана употреба с набора от данни, специфичен за приложението, потребителят обучава модела на общата рамка TensorFlow с висок капацитет за обработка и архитектура. След като обучението приключи, оценката на модела с помощта на техники за тестване проверява точността и надеждността на модела. Освен това процесът е последван от преобразуване на модела TensorFlow в хардуерно съвместим модел TensorFlow Lite във формат .tflite.

Форматът .tflite е плосък буферен файл, общ за рамката TensorFlow Lite и съвместим хардуер. Моделът може по-нататък да се използва за обучение по извод за данните в реално време, получени на модела. Обучението за извод оптимизира моделите за надеждни случаи на употреба. Следователно възможността за обучение по извод е от решаващо значение за ръба AI приложения.

Повечето от фърмуера на микроконтролера не поддържат родната файлова система за директно вграждане на плоския буферен формат на модела TensorFlow Lite. Следователно конвертирането на файла .tflite е необходимо във формат на масивна структура, който е съвместим с микроконтролерите.

Включването на програмата в C масива, последвано от нормална компилация, е лесна техника за такова преобразуване. Полученият формат действа като изходен файл и се състои от масив от знаци, съвместим с микроконтролерите.

Устройства, поддържащи TensorFlow Lite Micro

TensorFlow Lite е подходящ за мощни устройства, но идва с недостатъка на по-голямото натоварване на процесора. Въпреки че TensorFlow Lite Micro има файлове с малък размер, склонни към недостатъчно оборудване, оптимизирайки размера на файла се вписва в паметта може значително да подобри изхода за хардуер с ниска мощност и ниска обработка, като например микроконтролери.

Ето списъка на дъските за разработка от официалната документация на TensorFlow, която поддържа TensorFlow Lite Micro:

• Arduino Nano 33 BLE Sense
• SparkFun Edge
• STM32F746 Комплект за откриване
• Adafruit EdgeBadge
• Комплект Adafruit TensorFlow Lite за микроконтролери
• Детска площадка Adafruit Circuit Bluefruit
• Espressif ESP32-DevKitC
• Espressif ESP-EYE
• Терминал Wio: ATSAMD51
• Съвет за разработка на Himax WE-I Plus EVB Endpoint AI

TensorFlow Lite Micro се предлага и като библиотека на Arduino за разширена поддръжка на микроконтролери. Той може също така да изгражда проекти за среди за разработване на хардуер, подобни на Mbed.

TensorFlow Lite предлага много

Рамката за дълбоко обучение TensorFlow Lite отваря възможности за редица съвременни приложения за изкуствен интелект. Тъй като рамката е с отворен код за ентусиасти на ИИ, подкрепата на общността я прави още по-популярна за случаи на използване на машинно обучение. Цялостната платформа на TensorFlow Lite подобрява средата за растеж на крайни приложения за вградени и IoT устройства

Освен това има различни примери за начинаещи, които да им помогнат с практическите случаи на използване на рамката. Някои от тези примери включват откриване на хора в зависимост от данните, събрани от сензора за изображения на разработчичната платка и стандартната здравна програма за всички разработващи дъски. Примерите включват и приложения като откриване на жестове и разпознаване на реч за конкретни платки за разработка.

За повече информация относно TensorFlow Lite и TensorFlow Lite Micro, можете да посетите официалната страница с документация на организацията. Има много концептуални, както и учебни раздели за по-добро разбиране на рамката.

Започнете с разпознаването на изображения с помощта на TensorFlow и Raspberry Pi

Искате ли да се справите с разпознаването на изображения? Благодарение на Tensorflow и Raspberry Pi можете да започнете веднага.

Прочетете Напред

За автора