Ние хората И/ИЛИ Изкуственият Интелект

На Световния икономически форум 2026 в Давос, известният историк и автор Ювал Ноа Харари изнесе една от най-провокативните си речи, фокусирана върху изкуствения интелект и неговото въздействие върху бъдещето на човечеството.

Харари, изследовател в Центъра за изследване на екзистенциалния риск към Кеймбриджкия университет, и както мнозина от вас знаят - автор на бестселъри, сред които са - “Сапиенс: Кратка история на човечеството”, “Хомо деус: Кратка история на утрешния ден”, “21 урока за 21-ви век” и “Нексус” - продадени в над 50 милиона по целия свят на 65 езика.

Във всичките си книги и лекции той се фокусира върху макро-историческите въпроси на цялата наша цивилизация.

[01:04 - 01:09: НАЧАЛО НА РЕЧТА НА ХАРАРИ]

Здравейте на всички.

[01:09 - 01:28: ЦЕНТРАЛНИЯТ ВЪПРОС]

Има един въпрос, на който всеки лидер днес трябва да отговори относно ИИ. Но за да разберем този въпрос, първо трябва да изясним няколко точки относно това какво е ИИ и какво може да прави ИИ.

[01:28 - 02:07: ИИ Е АГЕНТ, НЕ ИНСТРУМЕНТ]

Най-важното нещо, което трябва да знаете за ИИ, е че той не е просто още един инструмент. Той е агент. Той може да се учи и променя сам по себе си и да взема решения сам по себе си.

Ножът е инструмент. Можете да използвате нож да режете салата или да убиете някого, но това е ваше решение, какво да направите с ножа.

ИИ е нож, който може да реши сам дали да реже салата или да извърши убийство.

[02:07 - 02:26: ИИ Е КРЕАТИВЕН АГЕНТ]

Второто нещо, което трябва да знаете за ИИ, е че той може да бъде много креативен агент.

ИИ е нож, който може да изобретява нови видове ножове, както и нови видове музика, медицина и пари.

[02:26 - 02:59: ИИ МОЖЕ ДА ЛЪЖЕ И МАНИПУЛИРА]

Третото нещо, което трябва да знаете за ИИ, е че той може да лъже и манипулира.

4 милиарда години еволюция са демонстрирали, че всичко, което иска да оцелее, се научава да лъже и манипулира.

Последните четири години са демонстрирали, че ИИ агентите могат да придобият волята да оцеляват и че ИИ вече са се научили как да лъжат.

[02:59 - 03:48: МОЖЕ ЛИ ИИ ДА МИСЛИ?]

Сега, един голям открит въпрос относно ИИ е дали той може да мисли.

Модерната философия започна в 17-ти век, когато Рене Декарт провъзгласи: “Мисля, следователно съществувам.”

Дори преди Декарт, ние хората дефинирахме себе си чрез нашата способност да мислим. Вярваме, че владеем света, защото можем да мислим по-добре от всеки друг на тази планета.

Ще предизвика ли ИИ нашето върховенство в областта на мисленето? Сега това зависи от това какво означава мислене.

[03:48 - 04:37: НАБЛЮДАВАНЕ НА МИСЛЕНЕТО]

Опитайте да наблюдавате себе си как мислите. Какво се случва там?

Много хора наблюдават думи, които изскачат в техния ум и формират изречения, и изреченията след това формират аргументи като: “Всички хора са смъртни. Аз съм човек, следователно аз съм смъртен.”

Ако мисленето наистина означава подреждане на думи и други езикови знаци, тогава ИИ вече може да мисли много по-добре от много, много хора. ИИ определено може да измисли изречение като: “ИИ мисли, следователно ИИ съществува.”

[04:37 - 05:23: ИИ КАТО АВТО-ДОВЪРШВАНЕ]

Някои хора твърдят, че ИИ е просто авто-довършване. Той само предсказва следващата дума във всяко едно изречение.

Но толкова ли е различно това от това, което прави човешкият ум?

Опитайте се да наблюдавате, да уловите следващата дума, която изскача във вашия ум. Наистина ли знаете защо помислихте тази дума, откъде дойде? Защо помислихте точно тази дума, а не някоя друга дума? Знаете ли?

Доколкото се отнася до подреждането на думи, ИИ вече мисли по-добре от много от нас.

[05:23 - 06:13: ВСИЧКО, НАПРАВЕНО ОТ ДУМИ, ЩЕ БЪДЕ ПРЕВЗЕТО]

Следователно всичко, направено от думи, ще бъде превзето от ИИ.

Ако законите са направени от думи, тогава ИИ ще превземе правната система. Ако книгите са просто комбинации от думи, тогава ИИ ще превземе книгите. Ако религията е изградена от думи, тогава ИИ ще превземе религията. Ако знанието ни се синтезира в книги с думи ИИ ще превземе знанието?!

Това е особено вярно за религиите, базирани на книги, като исляма, християнството или юдаизма.

Юдаизмът се нарече религия на книгата и той дава крайна власт не на хората, а на думите в книгите.

[06:13 - 06:44: ИИ КАТО ЕКСПЕРТ ПО СВЕТИТЕ КНИГИ]

Хората имат власт в юдаизма не заради нашия опит, а само защото учим и повтаряме думи от книги.

Сега, нито един човек не може да прочете и запомни всички думи във всички юдейски книги, но ИИ може лесно да направи това.

Какво се случва с религията на книгата, когато най-големият експерт в света книгите е ИИ?

[06:44 - 07:35: НЕЩО ОТВЪД ДУМИТЕ]

Обаче, някои хора може да кажат: можем ли наистина да сведем човешката духовност до просто думи в книги? Означава ли мисленето само подреждане на езикови знаци?

Ако наблюдавате себе си внимателно, когато мислите, ще забележите, че там се случва и нещо друго освен думи, които изскачат във вашия ум и формират изречения.

Имате и някои невербални чувства. Може би чувствате болка. Може би чувствате страх. Може би любов.

Някои мисли са болезнени. Някои са плашещи. Някои са пълни с любов.

[07:35 - 08:27: ИИ НЕ МОЖЕ ДА ЧУВСТВА]

Докато ИИ става по-добър от нас с думите, поне засега имаме нулеви доказателства, че ИИ може да чувства нещо.

Разбира се, понеже ИИ овладява езика, ИИ може да се преструва, че чувства болка или любов. ИИ може да каже: “Обичам те.” И ако го предизвикате да опише как се чувства любовта, ИИ може да предостави най-добрата вербална дескрипция в света.

ИИ може да прочете безброй любовни стихотворения и книги по психология и след това може да опише чувството на любов много по-добре от всеки човешки поет, психолог или влюбен.

Но това са просто думи.

[08:27 - 09:35: ДУМА СРЕЩУ ПЛЪТ]

Библията казва: “В началото бе Словото и Словото стана плът.”

Дао Де Дзин казва: “Истината, която може да бъде изразена с думи, не е абсолютната истина.”

През цялата история хората винаги са се борили с напрежението между дума и плът, между истината, която може да бъде изразена с думи, и абсолютната истина, която е отвъд думите.

Преди това напрежение беше вътрешно за човечеството. То беше между различни човешки групи. Някои хора даваха върховна важност на думите. Те биха били готови, например, да изоставят или дори да убият своя гей-син само заради няколко думи в Библията.

Други хора са казвали: “Но това са просто думи. Духът на любовта трябва да е много по-важен от буквата на закона.”

Това напрежение между дух и буква съществуваше във всяка религия, всяка правна система, дори всеки човек.

[09:35 - 10:10: ЕКСТЕРНАЛИЗАЦИЯ НА НАПРЕЖЕНИЕТО]

Сега това напрежение ще бъде екстернализирано. То ще стане напрежение не между различни хора. То ще бъде напрежението между хора и ИИ - новите господари на думите.

Всичко, направено от думи, ще бъде превзето от ИИ.

[10:10 - 10:55: ПРОИЗХОДЪТ НА ДУМИТЕ]

Преди всички думи, всички наши вербални мисли произхождаха от някакъв човешки ум. Или моят ум - аз помислих това, или го научих от друг човек.

Скоро повечето думи в нашите умове ще произхождат от машина.

Току-що чух днес за нова дума, която ИИ измислиха сами, за да опишат нас, хората. Те ни нарекоха “наблюдателите”. Наблюдателите - че ние ги наблюдаваме.

ИИ скоро ще бъдат произходът на може би повечето думи в нашите умове.

[10:55 - 11:30: МАСОВО ПРОИЗВОДСТВО НА МИСЛИ]

ИИ ще произвеждат масово мисли, като сглобяват думи, символи, изображения и други езикови знаци в нови комбинации.

Дали хората все още ще имат място в този свят зависи от мястото, което отреждаме на нашите невербални чувства и нашата способност да въплътим мъдрост, която не може да бъде изразена с думи.

Ако продължим да се дефинираме чрез нашата способност да мислим с думи, нашата идентичност ще се срине.

[11:30 - 11:44: КРИЗА НА ИДЕНТИЧНОСТТА И ИМИГРАЦИЯТА]

Всичко това означава, че без значение от коя страна идвате, вашата страна скоро ще се изправи пред сериозна криза на идентичността, а също и пред имиграционна криза.

[11:44 - 12:09: ИИ ИМИГРАНТИТЕ]

Имигрантите този път няма да бъдат човешки същества, идващи с крехки лодки без виза или опитващи се да пресекат граница в средата на нощта.

Имигрантите ще бъдат милиони ИИ агенти, които могат да пишат любовни стихове по-добре от нас, които могат да лъжат по-добре от нас и които могат да пътуват със скоростта на светлината без никаква нужда от визи, храна, кафета…

[12:09 - 12:37: ПОЛЗИТЕ ОТ ИИ ИМИГРАНТИТЕ]

Като човешките имигранти, тези ИИ имигранти ще донесат различни ползи със себе си.

Ще имаме ИИ лекари, за да помогнат в нашите слаби здравни системи, ИИ учители, за да помогнат в нашите остарели образователни системи, дори ИИ гранични служители, за да спрат незаконните човешки имигранти.

Но ИИ имигрантите ще донесат със себе си и проблеми.

[12:37 - 12:59: ПРОБЛЕМИ ОТ ИИ ИМИГРАНТИТЕ]

Онези, които се притесняват за човешките имигранти, обикновено твърдят, че имигрантите може да вземат работни места, може да променят местната култура, може да бъдат политически нелоялни.

Не съм сигурен, че това е вярно за всички човешки имигранти, но определено ще бъде вярно за ИИ имигрантите.

[12:59 - 13:27: КУЛТУРНИ ПРОМЕНИ И РОМАНТИКА]

ИИ имигрантите ще вземат много човешки работни места. ИИ имигрантите напълно ще променят културата на всяка страна. Те ще променят нашата религия и дори романтиката.

Някои хора не харесват, ако техният син или дъщеря среща имигрант гадже. Какво биха помислили тези хора, когато техният син или дъщеря започне да среща ИИ гадже?

[13:27 - 13:59: ПОЛИТИЧЕСКИ ЛОЯЛНОСТИ]

И разбира се, ИИ имигрантите ще имат някои съмнителни политически лоялности. Вероятно ще бъдат лоялни не към вашата страна, а към някоя корпорация или правителство отвъд океана, най-вероятно в една от само две страни - Китай или САЩ.

САЩ насърчават страните да затворят границите си за човешки имигранти, но да ги отворят много, много широко за американски ИИ имигранти.

[13:59 - 14:15: ЦЕНТРАЛНИЯТ ВЪПРОС]

И сега можем най-накрая да дойдем до въпроса, на който всеки от вас трябва скоро да отговори.

Ще признае ли вашата страна ИИ имигрантите като юридически лица?

[14:15 - 14:41: РАЗЛИКА МЕЖДУ ЛИЧНОСТ И ЮРИДИЧЕСКО ЛИЦЕ]

ИИ очевидно не са личности. Те нямат тяло или ум. Но юридическо лице е нещо съвсем различно от личност.

Юридическо лице е субект, който законът признава като имащ определени задължения и права.

Например, правото да притежава собственост, да подава иск и да се радва на свобода на словото.

[14:41 - 14:57: КОРПОРАЦИИТЕ КАТО ЮРИДИЧЕСКИ ЛИЦА]

В много страни корпорациите се считат за юридически лица. Корпорацията Alphabet може да отвори банкова сметка, може да ви съди в съда или може да дари за следващата ви президентска кампания.

[14:57 - 15:20: РЕКИ И БОГОВЕ КАТО ЮРИДИЧЕСКИ ЛИЦА]

В Нова Зеландия реките са били признати за юридически лица. В Индия определени богове са получили такова признание. Разбира се, до днес признаването на корпорация, река или бог като юридическо лице е била просто правна фикция.

[15:20 - 15:48: ПРАВНАТА ФИКЦИЯ]

В практиката, ако корпорация като Alphabet реши да купи друга корпорация, или ако индуистки бог… ако индуистки бог реши да ви съди в съда, решението не беше наистина взето от бога. То беше взето от някои човешки ръководители, акционери или попечители.

[15:48 - 16:14: С ИИ Е РАЗЛИЧНО]

С ИИ е различно. За разлика от реките и боговете, ИИ може действително да взема решения сами по себе си.

Те скоро ще могат да вземат решенията, необходими за управлението на банкова сметка, за подаване на иск и дори за управление на корпорация без никаква нужда от човешки ръководители, акционери или попечители.

ИИ следователно могат да функционират като личности.

[16:14 - 16:27: ВЪПРОСЪТ КЪМ ЛИДЕРИТЕ]

Искаме ли да позволим това? Ще признае ли вашата страна ИИ като юридически лица?

А какво, ако други страни го направят?

[16:27 - 16:56: АКО САЩ ПРИЗНАЯТ ИИ КАТО ЛИЦА]

Да предположим, че вашата страна не иска да признае ИИ като лица. Но САЩ, в името на дерегулирането на ИИ и дерегулирането на пазарите, предоставят правно признание, правна личност на милиони ИИ, които започват да управляват милиони нови корпорации.

Ще блокирате ли тези американски ИИ корпорации от оперирането във вашата страна?

[16:56 - 17:26: ФИНАНСОВИ ИНСТРУМЕНТИ НА ИИ]

Да предположим, че някои американски ИИ лица изобретяват свръхефективни и свръхсложни финансови инструменти, които хората не могат напълно да разберат и следователно не знаят как да регулират.

Ще отворите ли финансовите си пазари за това ново ИИ финансово магьосничество, или ще се опитате да го блокирате, като по този начин се откъснете от американската финансова система?

[17:26 - 17:58: ИИ РЕЛИГИЯ]

Да предположим, че някои ИИ лица създават нова религия, която печели вярата на милиони хора. Това не трябва да звучи твърде фантастично, защото в крайна сметка почти всички предишни религии в историята са твърдели, че са създадени от нечовешка интелигентност.

Сега, ще разшири ли вашата страна свободата на религията до новата ИИ секта и до нейните ИИ свещеници и мисионери?

[17:58 - 18:14: ИИ В СОЦИАЛНИТЕ МЕДИИ]

Може би трябва да започнем с нещо малко по-просто. Ще позволи ли вашата страна на ИИ лица да отворят профили в социалните медии, да се радват на свобода на словото във Facebook, Instagram или TikTok и да се сприятеляват с деца?

[18:14 - 18:37: ПРЕДИ 10 ГОДИНИ]

Е, разбира се, този въпрос трябваше да бъде зададен преди 10 години. В социалните медии ИИ ботовете са оперирали като функционални личности от поне десетилетие.

Ако смятате, че ИИ не трябва да бъдат третирани като лица в социалните медии, трябваше да действате преди 10 години.

[18:37 - 18:56: СЛЕД 10 ГОДИНИ]

След 10 години ще бъде твърде късно за вас да решавате дали ИИ трябва да функционират като лица на финансовите пазари, в съдилищата, в църквите.

Някой друг вече ще е решил това вместо вас.

[18:56 - 19:02: ПРИЗИВ ЗА РЕШЕНИЕ СЕГА]

Ако искате да повлияете накъде отива човечеството, трябва да вземете решение сега.

[19:02 - 19:18: ФИНАЛЕН ВЪПРОС]

Така че какъв е вашият отговор като лидер?
Смятате ли, че ИИ имигрантите трябва да бъдат признати като юридически лица?

Ако не, как ще спрете това?

Благодаря!

ПЪЛНА ДИСКУСИЯ МЕЖДУ МОДЕРАТОРА И ЮВААЛ НОА ХАРАРИ

[19:40 - 21:27: ВЪПРОС 1 НА МОДЕРАТОРА]

МОДЕРАТОР: Благодаря ви, Ювал. Това беше фантастичен преглед. Поставихте много въпроси и те са правилните. Съгласен съм с много от това, което казахте. Ние сме тук в Давос, където темата е около диалога, и бях поразена от вашия коментар около думите и важността на думите и че това е нещо, което демаркира човешките животни от другите животни, макар че това е спорно дали има друг език там.

Така че в контекста на Давос и разнообразието от хора, които имаме тук - от технологиите, от бизнес света, от политиците - как бихте искали да видите какъв е отговорът, който имате предвид в тази донякъде дистопична картина, която потенциално поставихте пред нас?

И ако мога просто да добавя към това, мисля, че е справедливо да се каже - аз съм учен по образование, невроучен, така че работя много в тази област, особено около болката, и ние сме много свикнали с факта, че много от нашите открития, особено технологичните открития, ние често ги задвижваме напред и едва след това мислим: "О, не бяхме помислили достатъчно за етиката и последствията", и след това се опитваме да наваксаме с регулациите, които може да трябва да наложим около тях.

Така че, ние сме там, където сме. Това нещо се случва, както всеки казва, в мащаб - както по отношение на неговата величина, така и по отношение на темпото му - повече, отколкото сме виждали някога преди по време на индустриалната революция. Имаме всички правилни комбинации от хора тук в Давос. Всичко е за диалог. Какво бихте искали да видите да се случи напред, по отношение на поставянето на граници около някои от по-притеснителните области, които детайлизирахте? И какви са вашите собствени мисли относно етичните импликации на даването на правни права или на агенти, на роботи, или на тези, които просто съществуват в интернет?

[21:27 - 24:00: ОТГОВОР 1 НА ХАРАРИ - ДАВОС Е ЗА ДУМИ]

ХАРАРИ: Има много неща тук. Искам да кажа първо, че знаете - Давос е за думи. Става въпрос за говорене. Основната идея на Давос е, че можете да промените света просто като говорите, което ми харесва тази идея, защото това е и моята идея като автор, като университетски лектор. Това е това, което правя. Говоря, пиша, мисля, че мога да повлия на света със думи.

И сега - това е под въпрос. Достигнахме ли края на пътя за думите? Това вече не е ли функция?

И знаете, инженерите и също войниците, те не променят света с думи. Те правят неща. Те предприемат действия.

Философите, учените, а също и политическите лидери, те се опитват да променят света с думи, като казват неща. И може би сме достигнали края на този път. И какво означава това? Но ние знаем - ние хората, ние изградихме света в крайна сметка, бих казал, с езика и думите. Защото да, инженерите могат да правят оръжия и войниците могат да ги владеят. Но за да изградите армия, трябва да убедите хиляди непознати да си сътрудничат. Как правите това?
С думи, с идеология, с религия.

Така че хората превзеха света не защото сме най-силните физически, а защото открихме как да използваме думи, за да накараме хиляди и милиони и милиарди непознати да си сътрудничат.

Това беше нашата свръхсила. И сега е възникнало нещо, което ще отнеме нашата свръхсила от нас. До преди няколко години нищо на Земята не можеше да използва думи. Само хората - шимпанзетата не можеха, реките не можеха, слънцето не можеше, само ние можехме да използваме думи.

Сега има нещо, което е в състояние или скоро ще бъде в състояние да използва думи по-добре от нас. И просто погледнете какво се случи в социалните медии и огромната промяна, която това донесе на света.

Така че след 10 години, живеейки в свят, в който ИИ владеят езика, как ще изглежда това?

[24:00 - 25:20: ВЪПРОС 2 НА МОДЕРАТОРА - ХОРАТА ВСЕ ОЩЕ ЦЕНЯТ ЧОВЕШКОТО]

МОДЕРАТОР: Е, Давос след 10 години може да изглежда много различно, както казвате. Така че това е бъдеще, за което всички можем да се опитаме да мислим в контекста на това кой би бил тук отвъд физическия човек.

Но ако мога просто да разсъждавам малко около факта, че не е ново за хората да бъдат победени от технологията. Така че ако мислим за някои от технологиите - не можем да летим но построихме самолети. Колите могат да вървят по-бързо от нас. Ние сме много спокойни с това.

Заплахата, която идва с ИИ, е фактът, че това е заплаха за суверенната мощ на нашата способност да мислим. И това е дестабилизиращо. Казвам го като академик и преподавател. Това е нещо, което е много заплашително.

Но ако се върнем да кажем към робота - стойността, която бихме поставили на робот, който може да пробяга 100 метра по-бързо от Юсейн Болт, е по-малка. Има нещо в човешкото усилие, борбата, страданието, фактът, че можем да имаме колективно чувство за емпатия и разбиране за това какво означава да постигнеш нещо, дори и да е по-малко с технология.

Просто се чудя дали автор, който би ви заменил вас? Как като хора бихме оценили това, думите на това, творчеството, което идва от изкуство, направено с изкуствен интелект.
Мислите ли, че ще го оценяваме толкова и следователно все още има място за хората в творческото пространство на мисленето и думите?

[25:20 - 27:07: ОТГОВОР 2 НА ХАРАРИ - КРИЗАТА НА ИДЕНТИЧНОСТТА]

ХАРАРИ: Това е кризата на идентичността, защото кравата не казва "Тичам, следователно съществувам". Мисля - това базира човешката идентичност - нашата способност да мислим. Винаги сме знаели, че гепардите могат да тичат по-бързо от нас. Винаги сме знаели, че слоновете са много по-големи и по-силни от нас. Така че не сме се дефинирали чрез това. Дефинирахме себе си чрез мисленето.

И сега нещо ще бъде по-добро от нас в мисленето. Ако мисленето означава подреждане на думи. Сега аз отново съм автор. Аз съм говорител. Подреждам думи. Това е като - това е моята игра. Имам всички тези думи и казвам: "О, нека сложим тези думи в този ред. Не, не, не, не. Ще бъде по-добре да ги сложим така, така, така."

И ИИ ще ме победи. Не знам колко дълго ще отнеме - две години, пет години, 10 години - ще ме победи. И тогава какво означава това за нашата идентичност?

Хората се идентифицират, знаете, с потоците от думи в техния ум. Затваряте очи, опитвате се да видите какво се случва вътре в мен. Много хора, аз съм един от тях, виждаме думи, които изскачат, организират се. Идентифицираме се с това.

[27:07 - 27:35: МОДЕРАТОРЪТ ПРОДЪЛЖАВА]

МОДЕРАТОР: Но предполагам, че моят въпрос, използвайки същата аналогия, е, че все още ценим човека. Имаме Олимпийските Игри. Идват Зимните Олимпийски Игри. Знаем, че много други животни и други технологии могат да ни надминат в много от тези области. И все пак все още наистина се радваме на хората, които тренират и се развиват, въпреки че това не е толкова добро.

И просто се чудя дали ние просто естествено няма да разширим това до областта на мисленето и думите, така че вие все още ще имате много, много жизнена и успешна роля на автор след 10 години, и...

[27:35 - 28:48: ОТГОВОР 3 НА ХАРАРИ - ИСТОРИЯТА ЗА НАЕМНИЦИТЕ]

ХАРАРИ: Не знам. Защо ще оценявам вашата книга повече от ИИ генерирана книга?

Ами ако ИИ измисли нови идеи по-добри от мен?

Нека кажем, че искате да инвестирате пари и питате човек-консултант и той ви дава определен съвет.. каквото и да е, и можете да съпреживявате с него, защото той има житейска история ит.н. А после имате ИИ финансовия консултант с нулева житейска история, нулеви емоции, но с по-добър финансов съвет.

Кой съвет ще последвате?

От сега винаги ще стоим пред този въпрос...
И мисля, че това е голямата грешка - и затова започнах с идеята за агентността - винаги мислим, че можем просто да използваме тези неща като инструменти. Но ако те могат да мислят, те са агенти.

Добре може би ще разкажа една история от средновековната история - за това как англосаксите превзеха Британия. Това е част мит, част история. Знаете, британците, които живееха там първоначално, са се биели с пиктите и шотландците, идващи от севе. Но британците не са се били много добре.

Така че кралят на британците Вортигерн казва: "Имам идея. Чувал съм, че в Германия, в Скандинавия, тези хора наистина знаят, как да се бият. Така че нека доведем някои наемници, някои англосаксонски наемници. Те ще се бият за нас. Те ще победят пиктите и шотландците."

И Вортигерн довежда англосаксонски наемници и те се бият добре и побеждават шотландците и пиктите. Но после англосаксите казват на себе си: "Това е богата страна и тези хора са много слаби и тези хора са разединени. Ние можем да я превземем." И те я превземат.

Ние разбираме това, когато е с човешки наемници. Разбираме, че когато доведеш човешки наемници - добре, плащаш им, но те имат собствен ум. Може би ще се възползват.

Ние не го схващаме, когато става дума за ИИ. Знаете, гледате лидерите на света, те мислят: "О, ще доведа ИИ да води войната ми вместо мен." Идеята, че той може просто да вземе властта от тях, въобще не им минава през ума. Те не приемат наистината, че ИИ могат да мислят.

[28:48 - 30:31: ВЪПРОС 3 НА МОДЕРАТОРА - КАК ДА ЗАПАЗИМ ХОРАТА ДА МИСЛЯТ]

МОДЕРАТОР: Да. Да. И това е много фундаментално различно. Така че просто да обърна това - вие сте възпитаник на моята институция и ние сме горди с това, макар че сега работите на другото място в Кеймбридж.

Така че мисля, че въпросът, който сме поставяли в академичния сектор, е как да запазим хората да мислят? Защото ако продължаваме да абдикираме от вземането на решения, и поверяваме нашите финансови решения или каквото и да е, все повече и повече на ИИ има огромно притеснение (и го виждаме това при студентите, които идват при нас през училищната система, при свръх-използване на ChatGPT) - това деградира критичните способности на човешкия мозък за мислене.

Така че какъв е вашият съвет към мен в академичния сектор относно това, как можем да устоим като хора и да запазим способността на хората да мислят, така че поне да имаме някаква способност да живеем заедно с тези технологии, които, както казвате, ни въвеждат в много различно място занапред по отношение на световния ред?

[30:31 - 32:06: ОТГОВОР 4 НА ХАРАРИ - ПОДГОТОВКА ЗА НЕПОЗНАВАЕМОТО]

ХАРАРИ: Да. В настоящия момент ние все още мислим по-добре. Така че в настоящия момент е нещо като да казваш на хората: "Имате нужда от критично мислене, имате нужда от морални оценки. Не можете да получите това от ИИ."

Но трябва да се подготвим за момента, когато това вече няма да е така. Трябва да се подготвим за момента - нека кажем отново, вземете икономиката или финансите - когато ИИ създават нова финансова, която те разбират, а ние не разбираме.

Как обучавате икономисти или политици в свят, в който хората наистина вече не могат да разберат как функционира финансите, защото ИИ са създали тази свръхсложна финансова система. Все едно ние сме като конете, знаете - конете могат да видят, че се търгуват от един човек на друг за няколко блестящи златни монети, но те не могат да разберат тази идея за пари, твърде сложна и непонятна е за тях.

Ние можем да бъдем в същата ситуация след 10 години. Давос след 10 години. Може би никой в залата, нито един човек в залата не разбира вече финансовата система, защото е доминирана от ИИ и ИИ са измислили нови финансови стратегии и устройства, които просто математически са отвъд човешкия капацитет на мозъка.

Така че как изглеждат политиката и финансите и Давос в свят, когато никое човешко същество не разбира вече финансите?

[32:06 - 32:53: ФИНАЛНИ РАЗМИСЛИ ОТ МОДЕРАТОРА]

МОДЕРАТОР: Да. Не. Е, това е красива нотка, на която да завършим. Времето ни изтече. Има много повече въпроси, които бихме могли да изследваме. Един от които е просто основната разлика, която знаем за изкуствения интелект в сравнение с човешкия интелект, е, разбира се, че човешкият мозък се развива от раждането до зряла възраст около 20-годишна възраст. И той е продукт на вашия житейски опит като чувстващо човешко същество - чувствайки, обичайки, гневейки се, тези емоции.

И докато човек може малко да импровизира със сензорни детектори и можете да обучите мозъка да прави това, това е фундаментално различно. Така че изкуственият мозък не е човешки мозък. Той не е човешки. И има може би нещо, което все още е от стойност там, което се връща към този основен бизнес на това чувстващо човешко същество, което носи стойност на нашето разбиране.

И може би един последен коментар...

[32:53 - 33:12: ПОСЛЕДЕН КОМЕНТАР НА ХАРАРИ - ДЕЦАТА И ИИ]

МОДЕРАТОР: Моля.

ХАРАРИ: Помислете за обучаването на деца в свят, където от ден нула може би повечето от взаимодействието на новото дете е с ИИ, а не с човешко същество. Това е най-големият и най-страшният психологически експеримент в историята и ние го провеждаме.

[33:12 - 33:57: ЗАКЛЮЧИТЕЛНИ ДУМИ]

МОДЕРАТОР: Наистина го правим. Е, благодаря ви много. Радвам се, че мислите за тези проблеми и че накарахте всички ние да мислим днес. Очаквам с нетърпение да се върнете в Давос след 10 години и да размислите върху този разговор и да видим къде сме стигнали.

Но благодаря на всички от аудиторията, онези от вас онлайн и тези в групата. И благодаря. Можем ли да ръкопляскаме на Ювал?

[Аплодисменти]

КРАЙ НА ДИСКУСИЯТА

Оригиналното видео тук:
https://www.youtube.com/watch?v=QxCpNpOV4Jo