Mobilecafe

Alexa ви чува... но ви чуват и служители на Amazon

лебовскиMobilecafe, по The Atlantic
16.04.2019, 13:56 (обновена 18.04.2019, 14:40)
amazon alexa

Снимка: © Unsplash / Jan Antonin Kolar

Човешкият фактор още е важен за изкуствения интелект

Стотици служители на Amazon по целия свят - от Румъния до Венецуела - имат една-единствена задача на работното си място.

Те преслушват произволно избрани аудиозаписи, направени с колоните Echo. Собствениците на въпросните "умни" колонки обаче нямат никаква представа, че всичко, което казват, е записвано.

Досега знаехме, че Alexa слуша, но вече сме сигурни, че и някой друг го прави.

Този глобален екип помага да бъде доизпипан софтуерът на Amazon, като прослушва и анализира въпросите и командите, които потребителите задават на виртуалния асистент. Служителите обръщат внимание дали асистентът се справя задоволително, както дали има специфични проблеми и изисквания.

Такива са например затрудненията с конкретни думи и непреводими фрази, или с изречения, произнесени с определен акцент.

От Amazon уверяват, че Alexa може да бъде изключена по всяко едно време, но явно асистентът понякога записва автоматично звуците около себе си. Компанията допълва, че записите, с които разполага, са напълно анонимни и от тях е премахната всякаква информация за самоличността на потребителите.

Репортаж на Bloomberg обаче показва, че невинаги собствениците на Echo са наясно, че биват записвани. На файловете може да се чуят например жена, която пее под душа, и дете, което крещи. Очевидно тези хора не са знаели, че колоната записва в момента.

Но подобни разкрития показват и още нещо - как точно "умните" устройства стават умни.

Колонките на Alexa са само един от примерите. Те могат да интерпретират речта и да изпълняват задачи, но Amazon всъщност разчита на хора, за да направи асистента си... по-човешки. Така изкуственият интелект се учи да разбира акценти в говора, да разпознава имена на знаменитости и да отговаря на все по-сложни команди. Подходът се прилага при всички устройства с изкуствен интелект, не само при тези на Amazon.

Към момента всъщност тези продукти са по-скоро прототипи. Те оправдават очакванията на купувачите си само ако зад тях стои и човешка помощ. А напредъкът в изкуствения интелект създава куп нови работни места, противно на митовете, че технологиите постепенно изместват хората.

В конкретния случай с Echo Amazon плаща на служители, за да спомогнат в подобряването на софтуера за гласови команди. Според компанията, когато продуктът е напълно завършен, той ще може да замести рецепционист в хотел или оператор в колцентър например.

Има доказателства, че в бъдеще действително някои професии вече няма да се нуждаят от човешки фактор, а от изкуствен интелект.

През 2016 г. учени от Станфордския университет използват компютърна програма и с нея установяват с 88% точност политическите пристрастия на 22 млн. души. Те основават проучването си единствено на това къде живеят анкетираните и каква кола карат. Традиционна анкета би изисквала голям екип, огромен бюджет и месеци работа по данните. Компютърът върши същата работа за две седмици.

Уловката е, че първо се е наложило да бъде "обучен" какво точно е кола. Служители прекарват милиони снимки  през програмата като отбелязват кадрите, на които има автомобили. Така системата започва да различава колите, а след това и видовете и цветовете им.

За притежателите на Amazon Echo идеята, че някой ги записва без тяхно съгласие, звучи като кошмар, но това просто доказва, че системите с изкуствен интелект изискват невероятно количество човешка работа преди и след пускането си на пазара. Идеалният вариант, който технологичните гиганти преследват, е затворен кръг на продажби.

Ако устройството се справя задоволително с гласовите команди, то събира и достатъчно данни и се усъвършенства. Така привлича още повече купувачи, които го правят още по-добро за потребителите и така нататък...

Друг пример са социалните мрежи. Модераторите на Facebook маркират кадри, съдържащи насилие, за да научат алгоритмите също да ги разпознават.

Колкото по-добре се справят машинните алгоритми, толкова по-малко обезпокояващи снимки и клипове се появяват в платформата. Вследствие повече хора започват да използват Facebook, защото намират за все по-безопасно място. И в двата примера си личи, че гурутата на Силициевата долина искат да вярваме, че изкуственият интелект всеки момент ще измести човека.

Засега подобно нещо е невъзможно, защото затвореният цикъл се поддържа от хора.

В момента изкуственият интелект съществува единствено чрез колаборация между човека и машината. Да, той може да постигне невероятни неща, но все още не и сам - факт, който технологичните компании предпочитат да не достига до потребителите им, най-малкото защото биха се чувствали некомфортно. Не е приятно да знаеш, че от другата страна на колонката стои човешко същество, а не машина.

Записите на Amazon показват и друга обезпокояваща тенденция.

Сред тях има притеснително голям брой, на които се чува някакъв вид насилие, а на служителите е наредено да игнорират подобни "находки". Само че подобен подход е парадоксален - вместо да направи устройството по-умно, той ще го направи по-глупаво. Или в конкретния случай - по-малко способно да изпита емпатия.

Така че в крайна сметка хората са тези, които карат изкуствения интелект да работи и от които зависи дали той ще ни служи качествено. Макар и последното да е сцената на малко (или повече) подслушване...

Oще: alexa  amazon  amazon alexa  бъдеще  изкуствен интелект  силициева долина  смарт устройства  технологии  умни устройства 


Още от Изкуствен интелект

Webcafe.bg предупреждава, че администраторите на сайта трият коментари, които съдържат нецензурни думи, обиди по расов, етнически, религиозен, полов или сексуален признак, както и коментарите, които са на латиница.