Microsoft превръща инструмента за оценка на сигурността на изкуствения изкуствен интелект с отворен код

Microsoft превърна своя инструмент за оценка на риска за сигурността на изкуствения интелект, Counterfit, с отворен код, позволяващ на всеки да започне да използва инструмента безплатно. Понастоящем организациите могат да използват Counterfit за автоматизиране на оценките на риска за сигурността, като гарантират, че защитата, която използват, е до нулата.

Microsoft първоначално разработи Counterfit като вътрешен инструмент, който може бързо да оцени сигурността на AI и системите за машинно обучение. Започна живот като колекция от скриптове, преди бързо да се превърне в обща автоматизация на ИИ, която операторът може да използва за „атака на множество системи с ИИ“ едновременно.

Сега Microsoft редовно използва Counterfit като основен инструмент в своите операции с AI червен екип. Тъй като Counterfit е агностик на средата, модела и данните, инструментът може да осигури прецизна оценка без импеданс.

Самият инструмент е предназначен за използване от специалисти по сигурността. Counterfit използва подобни работни процеси на други популярни инструменти на червения екип като Metasploit или PowerShell Empyre, с широка поддръжка за скриптове, предварително заредени алгоритми за атака, сканиране на уязвимости, разширено регистриране и други, достъпни чрез командния ред.

Microsoft работи широко с професионалисти по сигурността и големи организации, за да разработи и Counterfit по-добре. На Блог на Microsoft Security, Матилда Род, старши изследовател по киберсигурност, Airbus, каза:

AI се използва все по-често в индустрията; жизненоважно е да се гледа напред към осигуряването на тази технология, особено за да се разбере къде могат да се реализират атаки в пространството на функциите в проблемното пространство. Пускането на инструменти с отворен код от организация като Microsoft за оценка на специалисти по сигурност сигурността на AI системите е едновременно добре дошла и ясна индикация, че индустрията поема този проблем сериозно.

Можете да намерите отворен код Microsoft Counterfit на официалния им GitHub.

Свързани: Работите, които никога не сте знаели, се изпълняваха от AI

Защо фалшифицирането е полезно?

Дори за компания с размерите на Microsoft попълването на ефективни оценки на сигурността не е лесно, особено когато тези компании са огромни лидери на Fortune 500, правителства, организации с нестопанска цел и други. Предишно проучване на Microsoft установи, че голям брой фирми не могат да тестват своите системи за изкуствен интелект точно.

Установихме, че 25 от 28 фирми са посочили, че нямат подходящите инструменти за защита на своите системи за ИИ и че специалистите по сигурността търсят конкретни насоки в това пространство.

Counterfit улеснява попълването на тези оценки, автоматизирайки процеса на анализ и тестване.

Свързани: Начини, по които можете да използвате AI технология за подобряване на вашия бизнес

Освен това, наскоро публикувано Проучване на Gartner изброяването на AI за защита като една от най-важните мерки за сигурност, които една компания може да предприеме за подобряване на защитата. В същото проучване се отбелязва, че „До 2024 г. организациите, които прилагат специални контроли за управление на риска от ИИ, ще избягват успешно отрицателните резултати от ИИ два пъти по-често от тези, които не го правят“.

Накратко, Counterfit, превръщайки се в инструмент за оценка на сигурността на AI с отворен код, би трябвало да помогне на света да стане малко по-безопасно място.

Тези 4 антивирусни инструмента използват AI за защита на вашата система

Трябва ли следващият ви антивирусен абонамент да включва изкуствен интелект или е просто поредната дума за сигурност?

Прочетете Напред

За автора