Страхът от изкуствения интелект | webcafe.bg
Filmcafe logo

Страхът от изкуствения интелект

лебовскиFilmcafe, Aртър Чу, The Daily Beast
13.05.2015, 18:27 (обновена 15.05.2015, 07:54)
Ултрон

Разчитаме "Отмъстителите: Ерата на Ултрон" като сигнал колко зъл може да е интернет. Всъщност ни е страх от себе си

Всички очакваха вирусния туит за товa, че злодеят в "Отмъстителите: Ерата на Ултрон" отразява колко зъл може да е интернет в действителност. Е, интернет естествено не закъсня да реализира очакванията.

До голяма степен подобно на Twitter, и Ултрон е създаден да бъде позитивна сила в света, но почти веднага извращава целта си и започва разрушаване на всичко, до което може да се докопа с тролска злоба.

Естествено, тази история е толкова стара, че предшества мрежата: студената война ни даде филмите "Skynet", "Joshua" и "AM" на Харлан Елисън.

Историите за обезумели компютри бяха особено актуални, когато тези компютри имаха властта да сложат край на цивилизацията в ядрена катастрофа. Тази тяхна сила сякаш е понамаляла сега (макар че вероятно не би трябвало да е така).

Но как ви изглежда свят, където всички ние носим миниатюрни компютри в себе си през цялото време и ги използваме като посредници във всичките си взаимодействия със света, и един с друг?

Където идеята за компютъра като "разширение на мозъка" вече не е научна фантастика, а ежедневна реалност? Където децата, постъпващи в университета, не си спомнят време, в което търсенето в Google не е било фундаментален елемент от техния мисловен процес?

Има нещо много различно и тревожно в този тип теми.

Винаги сме харесвали странния синхрон на два филма, правени от две съвсем различни студиа, в напълно различни жанрове, които все пак се занимават с една и съща тема.

Миналата година двете научнофантастични медитации за изкуствения интелект по съвпадение бяха с участието на Скарлет Йохансон - "Тя", филм, в който Йохансон е с твърде човешки разум, но лишена от тяло, и "Под кожата", филм с Йохансон, в който тя има твърде човешко тяло, но е лишена от разпознаваем за нас разум.

Това обаче бяха изследвания на характери, тясно фокусирани върху връзката на Йохансон с Хоакин Финикс или случайни шотландски стопаджии.

Те биеха на очи с това в колко малка степен показваха промяната, настъпваща в света.

Обратно, както блокбъстърът "Отмъстителите: Ерата на Ултрон", така и нискобюджетният медитативен трилър Ex Machina разглеждат темата за технологиите и как те ще променят света, в който живеем.

Това, което е показателно, е че страховете, изразени в тези филми, не са за това как нашата технология ще се откланя от базовата ни човешка природа.

Страхът е по-скоро какво ще се случи, ако тя не го стори.

Кино-страхове в миналото бяха от свръхинтелигентни компютри, които са чужди и неразгадаеми - че ще създадем нещо като HAL 9000, чиито действия не можем да предскажем или контролираме, защото то е твърде различно от нас.

Това имаше смисъл във времето, когато за средностатистическия кинозрител компютрите бяха чужда, неразгадаема сила - големи черни кутии, съхранявани в охладени помещения, с които може да се говори само на мистериозен жаргон от експерти-нърдове - нещо като компютърно духовенство.

Тогава най-убедителният начин да бъде разказана история за обезумял изкуствен интелект беше той да има сенчесто, невидимо присъствие, като "компютъра", който ви изпраща сметката за ток, или контролира ведомостта на фирмата ви.

Някой теоретик въвежда един ред с код неправилно, и бум - Skynet изстрелва ядрените ракети от дълбините на някой бункер и настъпва апокалипсисът.

"Ерата на Ултрон" умишлено спестява този ядрен апокалипсис на публиката - Ултрон се опитва да изстреля ядрените ракети, но незабавно е спрян. Вместо това той предприема много по-лична форма на отмъщение срещу своя създател и неговите приятели - такава с човешко лице.

Ултрон е крайно хуманизиран герой от самото начало - пълна противоположност на невероятно лишеното от емоции изпълнение на Дъглас Рейн като HAL.

Той е изпълнен със злоба, негодувание, гняв - неговата омраза към неговия създателя и "баща" Тони Старк изглежда като класически едипов комплекс по Фройд.

Многократно има отправки - от герои като Алената вещица, Капитан Америка и самия Старк - как Ултрон, моделиран по "спомените" на Старк от базата данни на Отмъстителите, е възприел егото на Старк, неговата неувереност и желание да контролира.

Първите му думи, когато се пробужда, са "къде е тялото ми".

Той продължава да изгражда естествено изглеждащи човешки тела, с плашещо изразителни очи и устни.

Диалогът му е изпълнен с подобни на Тони Старк саркастични забележки. Сравнен с еднообразния Ронан Обвинителя от "Пазителите на галактиката", той е един от най-човекоподобните злодеи на Marvel.

През 70-те години, основният въпрос дали HAL има човешка мотивация за предателството си, или е просто функционираща неправилно машина, бе централен за тази част от "2001: Космическа одисея".

"Ерата на Ултрон" изобщо не го задава.

Ултрон може и да е "повече от човек," но от самото начало той има човешки глас, човешки емоции и мотиви.

Това може и да изглежда просто като избор от страна на Джос Уидън, за да избегне научнофантастични клишета и да има робот злодей.

Но Ex Machina ни дава контекст защо чудовище, което е "човешки компютър" изглежда толкова актуално.

Ex Machina има за начална предпоставка "тест на Тюринг", в който свенливият програмист Кейлъб има задачата да провери привлекателния женски андроид Ава, констатирайки дали тя наистина е същество със собствено съзнание, или само симулация на такова.

Чували сме историята за робота-приятелка и преди, естествено, поне от 1938 насам. Но Ex Machina добавя поне два сериозни обрата в този сценарий.

Първият е Нейтън, потенциалният луд учен, който е създал Ава, типичен за жанра подхвърлящ саркастични забележки задник, доста наподобяващ Тони Старк - който постоянно подкопава каквато и да е атмосфера на претенциозно научнофантастично послание, която иначе бихте почувствали да се изгражда.

Той е абсолютно типичният техничар - небръснат, говорещ с цинизми, пиещ много, трениращ силово задник.

Финансовата подкрепа за неговия ИИ проект идва от първия му успех, Bluebook, версията в този свят на Google - и както се оказва, същото важи и за всички технологични ресурси, защото ИИ проектът на Нейтън се оказва извеждане на всички огромни обещания на "големите данни" до логичното им заключение.

Разговаряме с Google сякаш той е човек, задавайки въпроси като "Къде е най-близкият McDonald's?" или "Как се поправя протекла мивка?" и доверявайки му се да предвиди и разбере нашите желания.

"Тя" беше базиран на Siri на Apple, фантазията за създаване на вълшебно говорещо същество в машината, което може да обработи тези запитвания дори още по-бързо и по-точно от Google.

Ex Machina подхожда към въпросa по радикално различен начин.

Google е способен да действа повече като човек с течение на времето, не защото чувствителността по вълшебен начин бива внесена в него отвън, а просто защото когато милиарди хора постоянно разговарят с него, той придобива все по-добра представа за нас.

Вече има цифрови "хора" в Интернет - всички ние.

Нашите Facebook профили, истории на търсене в Google, пазарски кошници в Amazon - всичко това са наши цифрови модели, колкото и изкривени и непълни да са, опаковани и продадени на корпорации като начин да се предскаже поведението на хората в реалния живот.

С течение на времето тези предсказания стават притеснително точни.

В света на Ex Machina, Нейтън просто е избрал да предприеме следващата логична стъпка и да използва милиардите си цифрови модели на хора, за да създаде реален човек.

Посланието - или едно от посланията - на Ex Machina, ясно заявено от актьора Оскар Айзък в интервю, е не колко опасни са машините, а "какви боклуци сме ние".

"Ерата на Ултрон" не е толкова философски като Ex Machina, но по подобен начин ясно демонстрира, че злото в Ултрон не се дължи на същността му, а на това откъде се е появил.

Магическият "мозъчен камък", който снабдява Ултрон със собствено съзнание, не е изначално зъл - по-късно той е използван за създаване на Вижън, добронамерен ИИ.

Злото в Ултрон е неотделимо от неговия човешки произход.

Подобно на свръх-версия на Google Now, той получава нареждане от Тони Старк да изпълнява неговата воля, опитва се да го интерпретира, като прочита всички имейли и разговори на Тони, и екстраполира от мизантропичния, изпълнен с презрение към себе си характер на своя създател омраза към своя баща и цялото човечество.

Това не е най-убедителната възможна мотивация, но всеки, който е изпитал неприятен шок от това как изглежда неговият собствен "облак" от най-популярни думи в Twitter, вероятно може да го разбере.

Забавното е, че това, което желаем от нашите технологии, не е усилване на нашето "аз", или разширение на нашата воля. Но получаваме точно това, и то не отговаря на нашите очаквания.

Това, което искаме от машините, е обективност и рационалност, от които ние сме лишени

Технологията е катализатор, усилващ дадена сила. Тя дава сила най-вече на тези, които вече я имат; тя засилва най-вече гласовете, които и без това са силни.

Ако, когато придаваме антропоморфен вид на въображаемия глас на "Интернет" или "Twitter", или "блогосферата," си представяме глас на бесен гняв, безцеремонна жестокост, привилегирована заинтересованост само от себе си - това е така, защото това са гласовете, които са най-шумни сред нас.

Не ни е страх от роботите-повелители, които ще се разбунтуват и ще отнемат контрола от хората. Точно обратното: песимисти сме за бъдещето точно защото сме почти уверени, че те никога няма да го сторят.

Oще: ex machina  ерата на ултрон  изкуствен интелект  интернет  отмъстителите  филми 


Още от Кино

Webcafe.bg предупреждава, че администраторите на сайта трият коментари, които съдържат нецензурни думи, обиди по расов, етнически, религиозен, полов или сексуален признак, както и коментарите, които са на латиница.

Регистриран на: 06.06.2014, 10:38

1 The Seeker | 14.05.201522:10

Изкуственият интелект вече е предизвиквал човешки жертви - преди няколко десетки години се отказаха от тоталното му приложение във военното дело - някои държави.
Жандарма още не, като почнат да ни гонят дронове по улиците няма да имаме време да пишем в подобни статии Усмивка.
   

оценка

+1 -0

Най-коментирани