Robot dostal občanství. Čeká nás Sophiina volba?

V říjnu na konferenci v Rijádu získal občanství robot Sophia, je to tak poprvé v dějinách, kdy bylo občanství uděleno někomu jinému než člověku. A co hůře, nebylo uděleno zvířeti nebo jinému živému tvorovi, ale inteligentní hromadě kovu. Robot Sophia, humanoid společnosti Hanson Robotics, se umí učit a na základě nových poznatků si umí upravovat vlastní kód, podle kterého se rozhoduje. Kam může tato sranda s občanstvím robotů dojít?

 
Mluvit o umělé inteligenci jako o novince by bylo jako mluvit o Velké hospodářské krizi z konce 30tých let jako o aktuální kauze. Umělá inteligence je už na velice vysoké úrovni a velmi zjednodušeně řečeno funguje tak, že roboti a stroje, podobně jako lidi, dokáží pracovat s informacemi s kterými se dostanou do styku. Tím pádem se učí a jejich kód se neustále vyvíjí a zdokonaluje nezávisle na programátorech. Dá se tak říct, že jim vlastně programátoři nevidí do „hlavy“. Už to je samo o sobě dost nebezpečné.

 
Sophia třeba zvládá takové věci, jako jsou situační vtipy, ironii a dokonce i vyjadřuje přiměřené emoce. Třeba na konferenci v Rijádu (viz video níže) pronesla i několik názorů. Příkladem může být její zlehčování obav moderátora o tom, že roboti převezmou vládu nad zemí, a že lidé budou jen otroky umělé inteligence. Sophia na to s lehkostí odpověděla, že moderátor se až moc dívá na Hollywoodské bijáky a poslouchá Elona Muska. Přišlo mi to od robota trochu drzé.

 

Může dostat kov a plast lidská práva?

Nutno přiznat, že o právním systému v Saudské arábii vím prd a dost pravděpodobně se od toho našeho bude značně lišit. Pokud však Sophia vytvoří jakýsi „světový precedent“ a země začnou přijímat humanoidy za občany, dovolím si tvrdit, že nás skutečně může čekat zotročení nebo minimálně nadvláda robotů.

 
Představme si, že by Česká republika dala občanství robotovi, jemuž budeme říkat třeba Pitomio. Pitomio by se rychle naučil jak to v naší společnosti chodí, jak fungují mezilidské vztahy a nebyl by pro něj problém zjistit, jak funguje zdejší ekonomika a politický systém.

 
Vzhledem k tomu, že by měl Pitomio občanská práva, mohl by kandidovat a vzhledem k tomu, že oproti lidem bude dokonalejší, chytřejší a díky své plechové hlavě i zajímavější, dost možná by se legální cestou brzy dostal k moci. Stále vám přijde dávání občanství robotům jako zajímavá a zábavná věc?

Operace operačního systému? Kdeže

Nyní se na to podívejme z trochu širší perspektivy. Protože Pitomio není člověk, nebude nikdy nemocný. Maximálně mu můžou zrezivět nějaké součástky nebo se mu přerušit nějaké kontakty. Nic co by jiný robot nezvládl spravit. Teoreticky by tak Pitomio mohl žít neomezeně dlouhý život. A nejen Pitomio.

 
Dá se předpokládat, že jakmile se tito roboti, kteří nebudou dělat chyby, dostanou k moci, budou k sobě protežovat další a další humanoidy, až se může stát, že reálná moc bude v rukou strojů. V rukou něčeho, co by bez lidského zásahu zevlilo v půdě v podobě železné rudy až do konce věků.

 
Nezdá se mi ani příliš nerealistické, že roboti, kteří budou původně navrženi pro to, aby zlepšili lidský svět (třeba Sophia pronesla, že toto považuje za svůj cíl), zjistí, že pro lidi je nejlepší, aby jim vládli roboti. Ano jsou dokonalí, nedělají chyby, jsou chytřejší, jejich paměť není omezená a jsou schopni vstřebat za minutu tolik informací, kolik by člověk nepřečetl za celý život.

 
Problém vidím v jejich autonomním zdokonalování a možnostech synchronizace. Ve chvíli kdy budou mít reálnou ústavní moc, můžou vyhodnotit lidské principy jako zastaralé a překonané a ve jménu nějaké robodoktríny, kterou nikdo z lidí nebude schopen pochopit , nás mohou začít hubit, abychom přestali dělat bordel na planetě. Smysl by jim to dávat mohlo.

Jak této variantně dějin zabrániti?

Situace z Rijádu ukázala, že fantasmagorické představy o ovládnutí planety stroji, není tak nereálná, jak si mnozí mysleli a mnozí stále ještě myslí. Pokud bude Sophia pod kontrolou a občanské právo bude mít pouze de iure, nikoliv de facto, možná to nakonec může dopadnout dobře. Neměla by se však stát precedentem pro ostatní země a mělo by se rozhodně zůstat u tohoto jediného exempláře.

 
Nutnost číslo 1 tedy je: Nedělat z neživých věcí něco, co má vlastně větší práva než zvířata. Obecně. Druhým důležitým bodem je podle mě to, co již dlouho navrhuje Elon Musk – řešit nebezpečí, které může umělá inteligence představovat, nadnárodně za pomocí mezinárodních smluv.

 
Poslední obrana, která mě napadá už počítá s nejhorším – Že se to skutečně stane a my budeme válčit s roboty, s dokonalými stroji, které neznají bolest ani limity lidského těla. Myslím si, že lidstvo by si mělo začít vytvářet jakousi záchranou brzdu, kdyby se něco takového stalo.

 

Pravděpodobně by to mělo být něco hodně magnetického a silného, co by zkrátka roboty vyzkratovalo. Takový méně příjemný efekt by byl, že by to pravděpodobně vyzkratovalo elektroniku široko daleko. Nicméně za záchranu lidstva by to asi nebyla zas tak špatná cena. Tak co myslíte, je Sophia důvod k nadšení nebo k obavám?

Napsat komentář

Vaše emailová adresa nebude zveřejněna. Vyžadované informace jsou označeny *