През цялата история религиите са претендирали, че източникът на свещените им книги е нечовешки и това скоро може да стане реалност. Може да се появяват мощни религии с голям брой последователи, чиито свещени текстове са съставени от изкуствен интелект.
Както мнозина други, и аз останах изключително впечатлен от първата издадена у нас книга на Ювал Ноа Харари – „Sapiens. Кратка история на човечеството“, за която написах, редом с още цял куп думи, че е „ценно общообразователно четиво в широк спектър от теми, които засягат както еволюционния успех на вида ни, така и последните хилядолетия история и развитие на цивилизацията, основани изключително върху уникалното за нашия вид умение да вярваме в несъществуващото.“ След това в „Homo deus. Кратка история на бъдещето“ той направи друга впечатляваща стъпка напред, като написа, че „…през XXI век човечеството вероятно ще се стреми към безсмъртие, блаженство и божествени сили“, всичко това с мощта на науката и създаването на нови учения, които да заместят тотално изчерпаните и морално компрометирани стари религии“, както допълних аз редом с още немалко приказки от и за книгата. И не е голяма изненада, че определям и „Nexus. Кратка история на информационните мрежи от каменната епоха до ерата на изкуствения интелект“ като изключителна и нужна за нашето време книга, като никак няма да ви спестя – на който му се чете, разбира се – и дългите цитати и опити да сумаризирам поне отчасти тезите на Харари, без по никой начин да претендирам за изчерпателност – в малко на брой страници той успява да концентрира изключително количество разнообразна информация.
В крайна сметка същността на патриотизма не е рецитирането на вълнуващи поеми за красотата на родината, още по-малко в изнасянето на изпълнени с омраза речи срещу чужденците и малцинствата. Патриотизмът е в това да си плащаш данъците, така че хората в другия край на страната да могат да получат канализация, както и сигурност, образование и здравеопазване.
Да, това е книга за изкуствения интелект, но на него е посветена чак втората ѝ половина. Първата представлява интригуващ опит да се разкаже историята на света като формиране на различни по ефективност информационни мрежи, които са единственият ефективен начин за сътрудничество. Същевременно Харари отделя изненадващо много място и внимание на тоталитарните режими и особено ужасите на сталинизма – отличителна информационна система, която според него далеч не е изчезнала безвъзвратно, а с ерата на изкуствения интелект всъщност може да се възроди по много по-ужасяващо ефективен начин. Изводът му е, че неправилното прилагане или изпускането от контрол на ИИ всъщност може да обрече демокрацията на разпад и изчезване, но ще стигна до същността на тези му идеи в края на този текст.
С присъщия си размах и умение да обобщава сложни явления по интригуващ и неочакван начин Харари ни въвежда плавно в своята идея за информационните мрежи от зората на човешката история. Той пише, че „склонността да създаваме мощни изобретения с непредвидени последици не се проявява за пръв път с парния двигател или изкуствения интелект, а с изобретяването на религията. Пророци и теолози призовават могъщи духове, които се очаквало да донесат любов и радост, но вместо това понякога заливат света с реки от кръв.“ И след това постулира, че „основният аргумент в тази книга е, че човечеството придобива огромна мощ, като изгражда обхватни мрежи на сътрудничество, но самият начин, по който тези мрежи са изградени, създава предпоставки да бъдат използвани по не особено мъдър начин. Следователно проблемът ни е не индивидуален, а мрежови.“ И продължава: „Информацията е спокойката, която скрепва въпросните мрежи. В продължение на десетки хиляди години Sapiens изгражда и поддържа големи мрежи, като измисля и разпространява фикции, измислици и делюзии – относно богове, омагьосани метли, изкуствен интелект и какво ли не още. Макар всеки отделен човек обикновено да се интересува от истината за себе си и за света, огромните мрежи ни свързват и пораждат порядък, основан на фикции и измислици. В резултат получаваме например нацизма и сталинизма. Това са изключително мощни мрежи, скрепени от изключително налудни идеи.“ Но това, че двата тоталитарни режима „се основават на жестоки измислици и безсрамни лъжи, не ги превръща в изключение, нито пък ги обрича на провал. Това са две от най-мощните мрежи, които хората някога са създавали.“
Повечето информация не е път към мира, това вече е ясно на всички ни. Харари описва две популярни заблуди, които са се осланяли на тази идея – в статия от 1858 г. е написано по отношение телеграфа: „Невъзможно е старата враждебност и предразсъдъците да продължават да съществуват, след като беше създаден подобен уред, позволяващ обмяна на мисли между нациите по света“. И допълва с цитат от Зукърбърг, който самодоволно споделя, че целта на „Фейсбук“ е „да помога на хората да споделят повече, за да направи света по-открит и да насърчава разбирателството между хората.“ Малко по-натам в текста ще опиша как Харари разбива на пух и прах думите му с информация как именно фейсбук спомага за разгаряне на кърваво етническо прочистване.
Когато анализираме ролята на информацията в историята, макар понякога да има смисъл да се запитаме „Колко добре тя представя реалността? Отговаря ли на истината или не“, често по-важните въпроси са: „Колко добре тя свързва хората? Каква нова мрежа възниква в резултат от това?“
„Реалността включва обективно ниво с обективни факти, които са независими от убежденията на хората“, пише Харари, но „реалността включва и субективно ниво, съдържащо субективни факти, например убежденията и усещанията на различни хора, но и в този случай можем да разграничим факти и грешки.“ И посочва, че „това, което показва примерът с астрологията, е, че грешките, лъжите, измислиците и фикциите също са информация… Нейната отличителна черта е връзката, а не представянето: информация е това, което свързва отделните възли в една мрежа… Хороскопите поставят влюбените в астрологическа формация, пропагандата поставя избирателите в политическа формация, а маршовете поставят войниците в армейска формация.“ След което се прехвърля към създаването на религиозните информационни мрежи: „Подобно на ДНК, която поражда химични процеси, Библията поражда социални процеси, които свързват милиарди хора в религиозни мрежи. Точно както една мрежа от клетки може да прави неща, които отделната клетка не може, така и религиозната мрежа може да прави неща, на които отделните хора са неспособни – да изгражда храмове, да поддържа правни системи, да отбелязва празници, да води свещени войни.“
Ако не бъдат предприети допълнителни стъпки за накланяне на везните в подкрепа на истината, увеличаването на обема на информацията и на скоростта на обмяната ѝ би удавило относително редките и с мъка достигнати истинни описания сред море от лесно достъпна и евтина дезинформация.
Първата голяма революция в човешката история по отношение създаването на информационни мрежи според Харари е разказът. Той пише: „За да бъде възможно сътрудничество между хората, вече не било нужно те да се познават лично – достатъчно било да познават едни и същи разкази.“ И допълва: „Може да ни се стори, че в случаите с древните китайски императори, средновековните папи или съвременните корпоративни титани има отделна личност от плът и кръв – а не разказ, – която служи като свръзка между милионите им последователи. Работата е там обаче, че в почти всички случаи от този тип почти никой от последователите няма пряка лична връзка с водача. Вместо това обвързаността е резултат от грижливо изработени разкази за водача и тъкмо те са това, в което хората влагат своята вяра.“
Като взема за пример създаването на християнството, Харари обобщава простичко неща, които са прекрасно развити в множество дебели книги („Еволюцията на Бог“ на Робърт Райт, да речем), но почти няма кой да ги прочете, затова е и полезно, че им е отделено място и в такъв тип обобщаващо четивно: „Доколкото можем да преценим, истинският Исус бил типичен еврейски проповедник, който създал около себе си миниатюрен култ, като изнасял проповеди и лекувал болни. След смъртта си обаче той е станал фокус на една от най-забележителните кампании за брандиране в историята. Този слабо известен провинциален гуру, който в кратката си кариера привлякъл към себе си неколцина последователи и бил осъден на смърт като обикновен престъпник, бил ребрандиран след своята смърт като въплъщение на Бог, творецът на вселената.“ И Харари продължава: „Следва да подчертаем, че създаването на разказа за Исус не е било целенасочена лъжа. Хора като свети Павел, Тертулиан, свети Августин и Мартин Лутер не са си поставяли за цел да заблудят някого. Те проектирали своите дълбоко стаени надежди и чувства върху фигурата на Исус точно както всички ние всекидневно проектираме своите чувства върху родителите, любимите и водачите си. Макар понякога кампаниите за брандиране да не са нищо повече от цинично усилие за дезинформация, повече от истински големите разкази, които познаваме от историята, са резултат от емоционално проектиране и пожелателно мислене. Истински вярващите играят ключова роля във възхода на всяка от основните религии и идеологии, а разказът за Исус е променил хода на историята, защото е привлякъл към себе си огромен брой истински вярващи.“
Ако се опиташ да създадеш бомба и пренебрегнеш законите на физиката, тя няма да експлоадира. Ако обаче създадеш идеология, пренебрегвайки фактите, тя може да се окаже експлозивна.
Харари обяснява подробно как и защо е нужно да има идеологии, а не просто посочване на фактите: „Онова, което знаят хората на върха на социалната стълбица и което специалистите по атомна физика невинаги осъзнават, е, че казването на истината за вселената едва ли е най-ефективният начин за налагане на социален порядък върху големи групи от хора. Вярно е, че E = mc² и това обяснява голяма част от случващото се, но това да знаеш, че E = mc², обикновено не ти помага да преодолееш политическите разногласия или да вдъхновиш хората за саможертва в името на общата казуза. Мрежите, свързващи хората, са скрепени от измислици, от разкази за интерсубектини реалности като богове, пари и нации.“ И точно тези измислици са най-добри в скрепяването на милиони хора, а не сложните истини (като това, че нациите са пълна измислица – или интерсубективна реалност, както пише Харари, – която безброй политици използват за своите цели по света от няколко века насам). В крайна сметка, пише той, „за да оцелее и процъфтява, всяка информационна мрежа трябва да прави две неща едновременно: да открива истини и да създава порядък.“ А за да го има второто, се използват „не само достоверни описания на реалността, но и фикции, измислици, пропаганда, а в някои случаи дори явни лъжи“, защото „е по-лесно да поддържаш порядък чрез фикции.“
Религиите например винаги претендират, че осигуряват обективни и неизменни истини, а не фикционални разкази, създадени от хора.
Втората велика информационна технология след разказите според Харари е писмеността. Тя води до създаването и на феномена на бюрокрацията, който е от същностно значение и за нашето време. Той пише: „Подобно на митологията обаче, бюрокрацията е склонна да жертва истината в името на порядъка… Много от проблемите на информационните мрежи от XXI век – пристрастните алгоритми, които дискриминират хора, фиксираните правила, които не отчитат човешките чувства и потребности – не са ни донесени от компютърната епоха. Те са същностно бюрократични проблеми, които са съществували далеч преди някой да е сънувал компютър.“ Той описва и добрите примери за бюрокрация, които са създали и поддържат голяма част от невидимата машинария на света около нас. Но друг вид бюрокрация е религиозната, която залага на свещени книги, които са създадени, за да заобиколят погрешимостта на човешките решения. Тук на доста страници той се спира на събития, описани чудесно например в „Зилот. Животът и времената на Иисус от Назарет“ на Реза Аслан и особено „Изгубените християнства“ на Барт Ърман, които довеждат до триумфа на настоящите големи течения в тази религия, като говори и например за Деянията на Павел и Текла, които не са включени в Новия завет, и техния потенциал евентуално да смекчат женомразката реторика на църквата през вековете.
Точно както повечето евреи забравят, че равините са съставили Стария завет, повечето християни пренебрегват факта, че църковните събори са съставили Новия завет, и започват да го разглеждат като неподвалстно на грешки послание от самия Бог.
За мен силно отрезвяващи бяха страниците, посветени на книгопечатането и неговата роля в научната революция. Харари е недвусмислен: „Книгопечатането обаче не е основната причина за научната революция. Единственото, което ни осигурява печатната преса, е възможността правдиво да възпроизвеждаме текстове. Машината не може да формулира свои собствени нови идеи. Онези, които свързват печатната преса с науката, допускат, че самото производство и разпространение на повече информация неизбежно води към истината. В действителност книгопечатането позволява бързо разпространение не само на научни факти, но на религиозни измислици, фалшиви новини и конспиративни теории. Вероятно най-прочутият пример за това е вярата в световния заговор на почитащи дявола вещици, която ще доведе до маниакални гонения в ранномодерна Европа.“
Той обръща особено внимание на един от най-зловредните хора в човешката история – доминиканския монах и инквизитор Хайнрих Крамер. За него Харари пише: „Крамер е пламенен последовател на новата вяра в глобалния сатанински заговор. Изглежда е бил психически нестабилен и обвиненията му във вещерство били примесени с яростно женомразтво и странни сексуални фиксации.“ Той съставя и публикува печално известната Malleus Maleficarum – „Чук за вещиците“ (вълнуващ едноименен роман по темата е написал Вацлав Каплицки) – „настолен наръчник за изобличаване и убиване на вещици, в който Крамер подробно описва световния заговор и средствата, с чиято помощ вярващите християни могат да ги разобличат и да провалят техните планове.“ Книгата „станала един от най-големите бестселъри в предмодерна Европа. Книгата тематизирала някои от най-големите страхове на човека, привличала нездрав интерес чрез описанията на оргии, канибализъм, убийства на деца и сатанистки конспирации“. Преиздавана е многократно и преведена на различни езици, а самият Крамер се издига високо в църковната йерархия. И по-смайващото – Харари посочва, че „до днес идеите му продължават да шестват по нашия свят – много теории за глобалния сатанистки заговор като „КюАнон“ черпят идеи от неговите измислици.“
Ловът на вещици е катастрофа, причинена от разпространието на токсична информация. Това е ключов пример за проблем, създаден от информацията, а след това и влошен от нея.
Интерес предизвикват и проучванията на Харари за демокрацията и нейните най-важни институции – куриозно, но според него „…най-важните за една демокрация институции обикновено са бюрократични чудовища.“ Според него: „Лесно е да проследим един диктаторски монолог. Обратно, демокрацията е разговор с много участници, много от които говорят едни през други; може да се окаже трудно да проследим нишката му.“ Разглежда подробно популизма и „защо е така привлекателен за антидемократичните автократи“. И обяснява: „Как е възможно да съвместим дълбокото недоверие във всички елити и институции с непоклатимото възхищение от водача и партията? Това е причината популистите да прибягват до мистичния възглед, че автократът е въплъщение на народа. Когато доверието в бюрократичните институции като избирателните комисии, съдилищата и вестниците е изключително ниско, митологията е единственият начин да се поддържа редът.“
Харари например описва как вестниците, „които успяват да спечелят широко доверие, стават архитекти и говорители на общественото мнение. Те създават по-информирана и заинтересована публика и с това променят характера на политиката, първо в Нидерландиите, а след това и навсякъде по света“. Той посочва, че „вестниците изиграли ключова роля за формирането на ранни демокрации като Съединените провинции в Ниските земи, Обединеното кралство на Британските острови и Съединените щати в Северна Америка“. Век по-късно в играта влизат и радиото, и телевизията: „за пръв път в историята новите технологии позволяват на народните маси, разпръснати на огромна територия, да установят връзка в реално време“.
Голямо внимание Харари отделя на опитите за създаване на тоталитарни режими през историята. Като ранни примери той посочва Спарта и династията Цин в Китай, пише защо Римската империя няма стремеж към подобно пряко участие в живота на поданиците си (или както иронично посочва, „Ако си мулетар в Помпей или овчар в Британия, Нерон нямало да следи откъде минаваш или да слухти за шегите, които разказваш“), след което се прехвърля към миналия век: „Макар в повечето държави в историята армията да е имала огромна политическа власт, в тоталитарните режими през XX век редовната армия губи голяма част от влиянието си за сметка на тайната полиция – информационната армия.“ Харари пише за московските бюрократи, които може и да не са чели „Чук за вещици“, но „създават цяла категория от несъщестуващи врагове“, които преследват с ненаситна страст. Посочва основната отличителна черта на обработването на информацията: „Демокрацията позволява на информацията да тече по много взаимно независими канали, вместо да преминава през центъра, съответно много независими центрове да я обработват и да вземат решения“, докато „тоталитаризмът се стреми цялата информация да минава през центъра и не иска да има независими институции, които сами вземат решения“, като анализира техните предимства и недостатъци. Харари е недвусмислен: „Въпреки – или може би точно заради – пълната липса на състрадание и незачинането на истината сталинизмът е крайно ефективен в поддържането на ред в гигантски мащаби. Неспирният порой от фалшиви новини и конспиративни теории помага да бъдат контролирани успешно милиони души. Колективизацията на съветското земеделие води до масово робство и глад, но и полага основите на бързата индустриализация на страната…. Съветската военна машина унищожава и собствените си, и чуждите войници, но в крайна сметка постига победа.“ Изводът е, че „сталинизмът бил на крачка от световно господство, затова би било наивно да допускаме, че пренебрежението му към истината го е обрекло на провал или че окончателният му крах е гаранция, че такава система няма да възникне никога повече. Информационните системи мога да стигнат далеч, ако осигуряват частица истина и висока степен на ред. Всеки, който се ужасява от моралната страна на такива системи, може да разчита само на предполагаемата им неефективност.“
В началото на XXI век изглежда, че бъдещето принадлежи на разпределените информационни мрежи и демокрацията. Оказва се, че това е погрешно. Всъщност поредната информационна революция, която тъкмо набира инерция, подготвя почвата за нов рунд в надпреварата между демокрация и тоталитаризма… новите технологии подхранват надеждите на тоталитарните режими, които все още бленуват да концентрират цялата информация на едно място. Да, старците от подиума на Червения площад не успяват да организират съществуването на милиони души. Може би обаче изкуственият интелект ще успее?
И ето я и тази финална част от книгата, посветена на информационните мрежи в наши дни и как изкуственият интелект ще им повлияе. Харари пише: „Основната разделителна линия в политиката през XXI век може и да не е между демокрации и тоталитарни режими, а между хора и не-човеци. Вместо да отдели демокрациите от тоталитарните режими, новата Силициева завеса ще начертае границата между хората и непонятните им алгоритмични владетели. Хората от всички държави или професии – включително и диктаторите – ще се окажат подчинени на чужд интелект, който ще наблюдава всичко, което правим, без ние да знаем това. Ето защо останалата част от книгата обсъжда въпроса дали наистина над света се спуска Силициева завеса и как би изглеждал животът, когато компютрите управляват бюрокрацията, а алгоритмите изобретяват нови митологии.“
По темата за социалните мрежи (и оня благопожелателен цитат от Зукърбърг по-горе) Харари описво подробно как „Фейсбук“ насърчава провеждането на етническо прочистване в Мианмар през 2016-2017 г. Тогава призоваващи към насилие послания на екстремисти като будисткия монах Виратху се оказва подсилени от алгоритмите на социалната мрежа, които „активно популяризират и рекламират съдържание в платформата на фейсбук, което призовава към насилие, омраза и дискриминация.“ Екип на ООН установява през 2018 г., че „фейсбук е изиграл „определяща роля“ в кампанията за етническо прочистване“. Харари посочва: „Ключовото тук е да разберем, че алгоритмите на социалните мрежи са фундаментално различни от печатната преса и радиоапарата…. алгоритмите на фейсбук сами вземат съдбоносни решения.“ И продължава: „За едно от видеата на Виратху вътрешно разследване на фейсбук показа, че около 70% от гледанията се дължат на това, че алгоритмите го зареждат автоматичо. Според същото разследване общо 53% от всички видеа, гледани в Мианмар, са пускани на потребителите автоматично. Иначе казано, хората не избират какво да гледат: алгоритмите решават вместо тях.“
Алгоритмите установяват, експериментирайки с милиони потребители, че възмущението води до ангажираност. Хората е по-вероятно да обърнат внимание на изпълнена с омраза конспиративна теория, отколкото на проповед, призоваваща към състрадание. Ето защо в стремежа си за по-висока ангажираност алгоритмите вземат съдбоносно решение да предизвикват възмущение.
Харари говори пространно за изпълнените с фалшиви профили социални мрежи: „Не по-малко тревожно е и това, че може да се окаже, че водим дълги онлайн дискусии относно Библията, „КюАнон“, вещиците, аборта или климатичните промени със събеседници, които мислим за хора, макар всъщност да са компютри. Това може да направи демокрацията невъзможна… Когато встъпим в политически дебат с компютър, който се прави на човек, ние губим два пъти. Първо, безсмислено е да се опитваме да променим мнението на пропаганден бот, който не подлежи на убеждаване. Второ, колкото повече говорим с компютъра, толкова повече разкриваме за себе си и толкова по-лесно става за него да пригоди аргументите си така, че да промени нашите възгледи.“ Той посочва, че се е формирала един вид „диктатура на лайковете“, при която „производителите на съдържание, които се стремяли да привлекат внимание към себе си, забелязали, че когато публикуват възмутителен клип, пълен с лъжи, агоритъмът ги възнаграждава, като ги препоръчва на голям брой потребители, с което увеличава тяхната популярност и приходите им. Обратно, когато подхождали по-умерено и се придържали към истината, алгоритъмът обикновено ги игнорирал. В рамките на няколко месеца обучение алгоритъмът превърнал много ютюбъри в тролове.“
Възходът на непроницаемия чуждоземен интелект е на път да подкопае демокрацията. Ако все повече решения относно живота на хората се вземат в черна кутия, така че избирателите не могат да ги разберат, съответно да ги оспорят, демокрацията спира да функционира.
Изводите на Харари в „Nexus“ са наистина притеснителни: „В продължение на десетки хиляди години хората са властвали над планетата Земя, защото сме били единствените способни да създават интерсубективни реалности – корпорации, валути, богове и нации, след което да ги използваме за организиране на сътрудничество в големи мащаби. Днес компютрите придобиват сходни способности.“ Според него авторитарните режими по света могат да използват изкуствения интелект, за да постигнат лелеяния пълен тоталитарен контрол над населението, а още по-плашеща е вероятността след това на свой ред самите те да се окажат подвластни на алгоритмите. И за финал нека все пак посоча откъде идва името на книгата, лесно е да пропусне, ако не се чете внимателно: то идва от понятието за връзка „nexus“ – „в данъчната литература това е обстоятелството, че даден субект попада под определена юрисдикция.“ Харари цитира икономиста Марко Кьотенбюргер, който пише: „Дефиницията за връзка, основана на физическо присъствие, трябва да бъде коригирана, така че да отчита дигиталното присъствие в дадена държава“. А е факт, че различни видове ИИ скоро ще имат дигитално присъствие навсякъде. И книги като тази помага да обследваме поне малко какво се задава в бъдещето.
От същия автор
От същите жанрове
