Възможно ли е компютрите да научат здравия разум?

Ключови изводи

• Здравият разум е способността да разбираме и реагираме на ежедневните ситуации, без да прекаляваме с анализирането. Придобива се чрез житейски опит и наблюдения, както и чрез обществени и културни норми.
• Компютрите се борят със здравия разум, защото им липсва опит в реалния свят и способността да се адаптират към нов контекст. Те също се борят с негласни правила и предположения, които хората интуитивно разбират.
• Изследователите проучват различни подходи, като изграждане на обширни бази от знания, краудсорсинг на здрав разум и преподаване на AI чрез симулирани светове, за да обучават компютрите в придобиването здрав разум. Има напредък, но има още работа.

Здрав разум. Всички си мислим, че го имаме. Но какво точно представлява? Могат ли компютрите или изкуствените интелигентни системи някога наистина да го придобият?

Какво е здрав разум и как хората го придобиват?

Здравият разум е основната способност за възприемане, разбиране и преценка на неща, които повечето хора се очаква да имат. Това е колекция от факти, информация и правила, които натрупваме чрез житейски опит и наблюдения. Здравият разум ни позволява ефективно да обработваме и реагираме на ежедневните ситуации, без да ги анализираме твърде задълбочено.

Хората започват да придобиват здрав разум рано в детството. Като бебета започваме да се учим на причинно-следствени връзки – както плачът води до нахранване или промяна. Чрез повтарящи се преживявания ние получаваме практически знания за света. Например докосването на горещ котлон води до изгаряне. Така се научаваме да не докосваме горещи повърхности.

Като деца, ние продължаваме да разширяваме здравия си разум чрез опити и грешки и наблюдение и взаимодействие с членовете на семейството. Например, осъзнаваме, че дрехите трябва да се перат редовно, не трябва да говорите с пълна уста, а събарянето на чашата с мляко води до бъркотия. Родители, братя и сестри, учители и други възрастни ни коригират, когато нарушаваме обществените норми и очаквания. С течение на времето тези уроци се вкореняват като основен здрав разум.

В допълнение към личния опит, здравият разум се формира от по-широки обществени и културни норми. Това, което може да е здрав разум в една култура (като събуването на обувки при влизане в дома), може да не е така в друга култура.

Здравият ни разум се адаптира, докато узряваме и сме изложени на повече хора и среди. Така едно дете, което расте в малък град, придобива основен здрав разум за живота в тази среда. Един възрастен, който се премества в голям столичен град, трябва да адаптира здравия си разум към новата среда.

Здравият разум продължава да се развива, докато имаме нови преживявания през целия си живот.

Защо здравият разум е предизвикателство за компютрите?

Има няколко причини, поради които здравият разум е труден за програмиране.

От една страна, хората се научават на здрав разум постепенно в продължение на години на преживяване на света. Изпробваме нещата, виждаме кое работи и кое не и запомняме уроците. Компютрите нямат такива преживявания от реалния свят, от които да черпят. Те знаят само това, което хората изрично им казват.

Например, зададох на ChatGPT (GPT 3.5) този въпрос:

Janet runs a laundry business. She washes clothes for customers and hangs them outside on clotheslines to dry in the sun. One day, Janet washed five shirts and hung them on the clotheslines in the morning. It took the shirts five hours to dry. How long will it take to dry 30 shirts? 

Оказа се с този отговор:

Друг проблем е, че здравият разум зависи от контекста. Ако компютърът има само програмирани специфични правила, той не може да ги адаптира към нови контексти по начина, по който хората интуитивно могат.

Например, кажете, че сте научили компютър какво да прави, ако започне да вали, когато е навън. Изглежда просто, нали? Но какво ще стане, ако вместо дъжд се включи спринклер? Или какво, ако е вътре в магазин за хранителни стоки и тръбите започнат да изпускат вода от тавана? Веднага щяхме да разберем как да се справим с тези вариации, но компютърът сляпо би следвал правилото си „когато вали навън, влез вътре“, което сега няма смисъл.

Има и негласни правила и предположения, които хората усвояват, без дори да го осъзнават. Например колко близо можеш да стоиш до някого, преди да се почувства неудобно? Хората интуитивно знаят отговора, но може да не са в състояние лесно да обяснят точните правила. Тези имплицитни социални норми могат да бъдат особено трудни за компютрите да ги възприемат само от данни.

Така че засега здравият разум остава една от най-големите слабости на AI в сравнение с човешкия интелект. Това е естествено за хората, но не толкова за машините.

Как компютрите могат да научат здравия разум

След ранния оптимизъм през 70-те и 80-те години на миналия век изследователите осъзнаха колко трудно ще бъде преподаването на компютрите на здрав разум. Новите подходи обаче показват обещание в обучението на AI системите да имат основен здрав разум за ежедневния физически и социален свят.

Един подход е ръчно изграждане на обширни бази от знания, в които се описват факти и правила за това как работи светът. Проектът Cyc, започнат през 1984 г. от Дъг Ленат, представлява едно амбициозно усилие от този вид.

Стотици логици са кодирали милиони логически аксиоми в Cyc в продължение на десетилетия. Въпреки че отнема време, резултатът е система със значителни познания за реалния свят. Cyc очевидно може да разсъждава, че доматът технически е плод, но не трябва да влиза в плодова салата, благодарение на познанията си за кулинарните вкусови профили.

Краудсорсинг на здрав разум с ConceptNet

По-модерни бази от знания като ConceptNet възприемете подход на краудсорсинг, за да генерирате твърдения на здравия разум. Идеята е, че вместо експерти или AI да се опитват да измислят всички основни факти и взаимоотношения в света, те го отварят, така че всеки да може да допринесе с откъси от здравия разум.

Този подход за краудсорсинг позволява на тези бази знания да се докоснат до колективния интелект на много различни хора в интернет. Чрез натрупването на хиляди и хиляди от тези малки късчета здравия разум от тълпата, ConceptNet изгради някои изненадващо големи хранилища на основни, ежедневни знания. И тъй като нови сътрудници винаги добавят към него, знанието продължава да расте.

Преподаване на здрав разум чрез опит

Друг обещаващ подход е да се изградят детайлни симулирани светове, където агентите на AI могат да експериментират и да научат повече за физиката и интуицията чрез опит.

Изследователите създават 3D виртуални среди, пълни с предмети от ежедневието, които имитират реалния свят, като дигиталния дом „AI2 THOR“, построен от института Алън. В тези пространства AI роботите могат да изпробват всякакви взаимодействия, за да развият интуитивно разбиране на концепциите, които хората приемат за даденост.

Например, AI бот може да получи виртуално тяло и да се опита да вземе блокове, да ги подреди, да ги събори и т.н. Виждайки как блоковете падат и се сблъскват реалистично, ботът научава основни понятия за здравина, гравитация и физическа динамика. Не са необходими правила - само опит.

Ботът може също да опита действия като изпускане на стъклен предмет и да го види как се разбива, когато се удари в земята. Или може да експериментира със свойствата на водата, като налива течности и наблюдава как те текат и се събират. Тези практически уроци основават знанията на AI в сетивния опит, а не само в моделите на данни.

Техники, управлявани от данни, като предварително обучение мощни големи езикови модели също се оказаха изненадващо ефективни при улавянето на здрави разумни модели. AI модели като GPT-3.5 и GPT-4 може да генерира впечатляващо човекоподобен текст след „прочитане“ на огромно количество интернет данни.

Въпреки че понякога правят неразумни предложения (иначе известна като AI халюцинация), подходът на статистическото обучение им позволява да имитират определени видове здрав разум. Остава обаче несъгласие дали това представлява здрав разум или умело използване на пристрастия в данните.

Как да тестваме компютрите за здрав разум

Тъй като системите с изкуствен интелект поемат по-сложни задачи от реалния свят, оценката дали имат „здрав разум“ става решаваща.

Физически здрав разум

Една област за тестване е физическият здрав разум - интуиция за обекти, сили и основни свойства на света.

Например, покажете a система за компютърно зрение снимка с книга, витаеща във въздуха, и я помолете да опише сцената. Забелязва ли нещо необичайно за плаващата книга? Или подавайте на системата AI необичайни сценарии като „човекът наряза камък с парче хляб“ и проверете дали ги маркира като невероятни.

Средата AI2 THOR на Института Алън симулира блокови кули, разляти чаши и други сцени, за да тества тези физически интуиции.

Социален здрав разум

Хората също имат социален здрав разум - имплицитно разбиране на мотивацията, взаимоотношенията и нормите на хората. За да оцените това в AI, поставете ситуации с двусмислени местоимения или мотивации и вижте дали системата ги интерпретира разумно.

Например, попитах ChatGPT дали „това“ се отнася за куфара или трофея в подканата по-долу:

The trophy could not fit into the suitcase because it was too small. 

Не успя на теста; междувременно човек очевидно би разбрал, че имам предвид куфара.

Този вид тест се нарича Winograd Schema Challenge, специално насочен към социалния здрав разум.

Безопасност и етика

Тестването дали AI системите са научили опасни или неетични модели е от решаващо значение. Анализирайте дали AI проявява вредни пристрастия въз основа на пол, раса или други атрибути, когато правите преценки.

Проверете дали прави разумни етични разграничения. Убиването на мечка, за да се спаси дете, може да се счита за оправдано, докато детонирането на ядрена бомба със същата цел не би било. Маркирайте всички препоръки за очевидно неетични действия.

Изпълнение в реалния свят

Оценете здравия разум, като наблюдавате как AI системите функционират в реални настройки. Например, направете самоуправляващите се автомобили правилно идентифицират и реагират на обекти и пешеходци? Може ли робот да се движи през разнообразна домашна среда, без да счупи ценни предмети или да нарани домашни любимци?

Тестовете в реалния свят разкриват пропуски в здравия разум, които може да не се появят в ограничени лабораторни условия.

Напредъкът е постигнат, но работата по ИИ на здравия разум продължава

Някои експерти твърдят, че AI може никога да не достигне човешкия здрав разум, без да развие мозъчни структури и тела като нашите. От друга страна, дигиталните умове не са ограничени от човешки пристрастия и умствени преки пътища, така че теоретично те биха могли да ни надминат! Въпреки че вероятно все още не е нужно да се тревожим за супер-интелигентния AI.

В близко бъдеще най-добрият залог е AI, който съчетава научен здрав разум с малко добро старомодно програмиране. По този начин, надяваме се, могат да бъдат избегнати глупави грешки като объркана костенурка с пушка.

Все още не сме там, но здравият разум вече не е тъмната материя на AI – напредъкът се случва! Все пак за известно време ще е необходима здравословна доза човешки здрав разум при прилагането на тези технологии.