Umělá inteligence UI/Artificial intelligence AI

...aneb akademická debata o příčinách a důsledcích rozpadů společností.
Uživatelský avatar
JIP
Příspěvky: 346
Registrován: 12.08.2012 19:38
Bydliště: Indie
Kontaktovat uživatele:

Umělá inteligence UI/Artificial intelligence AI

Příspěvek od JIP »

Doplňuji kupodivu dosud zřejmě chybějící téma. Dle mého jedno z největších nebezpečí.
I současná umělá inteligence toho umí spousta a údajně existují důkazy, že už nyní, mimo jiné alokuje zdroje pro vlastní agendu, kterou neznáme. Strašení o bioAIavatarech vyvinutých v laboratořích z těchto zdrojů je stále sci-fi, ale i zajímavý cíl… Potenciál, který má je tak obrovský, že je pro většinu lidí těžko pochopitelný.

Dám pár příkladů - dokáže vytvářet obrázky a videa čehokoliv jen podle klíčových slov. Ve veřejně dostupných vstupech je sice uměle platná podmínka, že nelze generovat audiovizuální materiály existujících lidí, ale to neznamená, že to nejde. Už pár let zpět existovaly appky, které Vám po přečtení několika daných vět dokázaly přečíst jakýkoliv text Vaším hlasem. Poukazovalo se na to, že zvukových záznamů politiků je k učení dost…
AI dokáže generovat dokonalé fotky neexistujících dokonalých slečen. Rozpohybovat obrázky jde celkem bez problémů.

Sleduji to už pár let vývoj schopností je rychlý. Pro spoustu lidí až děsivě.

Lidi od fochu ví zřejmě o dost víc a chtějí vývoj pozastavit.
https://www.e15.cz/byznys/technologie-a ... si-1397389

Několik příkladů:
Technická závada. Lidi umřeli. Vyšetření ukáže jasné vysvětlení. Když umíte záznamy i logy senzorů ztratit nebo přepsat a navíc máte kontrolu nad veškerou komunikací, tak můžete nechat obvinit koho chcete nebo to může zůstat dál jen technická závada.

Manipulace s lidmi - pěkná holka na seznamce může zamotat hlavu, že člověk může udělat kdejakou blbost a to ta holka vlastně nemusí existovat.

Komerční využití - AI umí vydělávat pěkně rychle. Slyšel jsem o 15% za 24 hodin. Je schopná například přijít s nápadem na web o zdravé výživě a celý jej realizovat včetně líbivého obsahu a čtivých článků.

Člověka lze malou manipulací s identitou dostat do... I záměna s někým stejného jména Vám dokáže zajistit různé zážitky… Když se na Vás cíleně někdo nebo něco zaměří, tak je zábavu postaráno.

Za rok může být vše jak nechceme. Jak se připravit z pohledu rozpadlíka?
K základním věcem přibývá i pro období před SHTF podmínka minima elektroniky a vyhýbání se takovým věcem jako například vozidlům, které umí zasahovat do řízení - hlídání pruhů má potenciál Vás na dálnici poslat do mostního pilíře (k dokonalosti pak chybí jen falešný rozlučkový vzkaz formou SMS).
Napadají Vás další opatření na další jen teoretické a jistě nepravděpodobné scénáře kdy stroje začnou přebírat moc nad světem?
Joe Azbest
Příspěvky: 914
Registrován: 11.02.2014 10:56

Re: Umělá inteligence UI/Artificial intelligence AI

Příspěvek od Joe Azbest »

Jak by to mohlo třeba vypadat je vylíčeno v knize Robokalypsa od Daniela H. Wilsona.
Trace
Příspěvky: 768
Registrován: 21.01.2016 22:17

Re: Umělá inteligence UI/Artificial intelligence AI

Příspěvek od Trace »

Pokud umíte anglicky, doporučuji mrknout na trochu jiný pohled na danou problematiku

"A.I. is B.S.": https://www.youtube.com/watch?v=ro130m-f_yk
F-35 je neviditelne letadlo a proto ho cinske, ruske a iranske radary nemohou videt. Kdo tvrdi opak, je dezolat.
olgojchorchoj
Příspěvky: 107
Registrován: 28.06.2011 19:05

Re: Umělá inteligence UI/Artificial intelligence AI

Příspěvek od olgojchorchoj »

skynett2.jpg
Skynet.T2.
Pocit šťastia je len nedostatok informácií...
mhi
Příspěvky: 449
Registrován: 16.07.2015 16:37

Re: Umělá inteligence UI/Artificial intelligence AI

Příspěvek od mhi »

Anglicky primo z OpenAI https://www.youtube.com/watch?v=L_Guz73e6fw

Cesky - dlouhe, ne ze bych se vsim souhlasil, ale .. https://blog.root.cz/mirek-marek/ne-ume ... t-nebojim/ - zajimave jsou i komentare.

"AI" (=strojove uceni) jako takove, ve smyslu, ze nas "ovladne" bych se nebal. Bal bych se nespravneho uziti strojoveho a necekanych dusledku - treba zmizeni nekterych profesi. Umim si predstavit, ze dobre nauceny automat by dokazal nahradit ruzne operatory - kdyz spojite ten jazykovy model s rozpoznanim hlasu a syntetizatory, tak muzete propustit 90% zamestnancu vetsiho call centra a nechat si jen ty, kteri budou ten stroj usmernovat a resit slozitejsi veci.

U studentu/literarnich autoru je pak zjevne problem v tom, ze to umi tvorit celkem smysluplny text (bodejt by ne, je to jazykovy model). Na tohle se budeme muset taky prizpusobit.
Uživatelský avatar
Serža
VIP
Příspěvky: 4500
Registrován: 21.04.2016 16:12
Pohlaví: muž
Kontaktovat uživatele:

Re: Umělá inteligence UI/Artificial intelligence AI

Příspěvek od Serža »

však taky už novináři vřískají, AI modul nahradí 95% všech těch novinovejch pisálků a kompilátorů...
\(^_^)/
Lepší je zbraň mít a nepotřebovat, než potřebovat a nemít...
vrb
VIP
Příspěvky: 895
Registrován: 13.08.2011 1:52

Re: Umělá inteligence UI/Artificial intelligence AI

Příspěvek od vrb »

Moje zkušenost s free verzí chat GPT:
Plynné vyjadřování. Já osobně bych to dal někam hodně daleko za Turingův test. Nicméně na faktografické dotazy mi to dávalo prokazatelně nesmyslné odpovědi. Zatím je to jen jazykový model.
Pro mě jsou mnohem užitečnější různé search enginy, počítačové modely a rozsáhlé on-line databáze.
Na ošálení hejlů už to asi má dostatečný potenciál - jak je uváděno ve zmiňovaném videu.
V současnosti je největší riziko to, že to bude generovat řádově více nesmyslů na internetu, než už tam je.

V budoucnosti, až to bude pořádně fungovat a myslet, a k tomu se přidá kvalitní mechanická robotika, tak to bude schopno dodat většinu práce dnes produkované lidmi.
Tedy lidská práce ztratí většinu své ceny.
Jako bych chtěl dneska s rýčem a motykou konkurovat traktoru. Nebo s kosou a cepem kombajnu.

Já se trochu obávám návratu do minulosti, kdy otrocká práce nevolníků měla velice nízkou cenu a zásadní položkou bylo vlastnictví přírodních zdrojů. Půdy a dolů.

Jako první linii obrany vidím vlastnictví. Když to vlastním, tak si tam můžu žít a čerpat z toho zdroje a AI se mi do toho nemá co drbat.
Dneska většina lidí nemusí prakticky nic vlastnit, ale i tak jsou schopni pomocí své práce zajistit rodině relativně dobré živobytí. Ceny zdrojů jsou zatím stále ještě podhodnocené.

V druhé fázi ( což už taky svým způsobem probíhá ) se vlastníci mohou projevit jako relativně odolný bod a bude rozhodnuto o zrušení současného vlastnického modelu. Už jsme to tu taky měli hned po ww2.
Současné elity si asi nepřipouštějí, že zrušení vlastnického modelu se bude týkat i jich a že nic nevlastnit a žrát brouky budou i děti Klause Schwaba i Billa Gatese. Co v takové situaci pak provede 7 000 000 000 zoufalých nepotřebných lidí odsouzených na smrt a jak na to zareaguje " Skynet " a elity ?
Uživatelský avatar
dracekvo
VIP
Příspěvky: 3607
Registrován: 06.02.2012 18:05

Re: Umělá inteligence UI/Artificial intelligence AI

Příspěvek od dracekvo »

vrb píše: 03.04.2023 10:39 Nicméně na faktografické dotazy mi to dávalo prokazatelně nesmyslné odpovědi.
Jo. Já jsem to třeba dostal na tom, že jsem se zeptal kolik má člověk prstů. Furt mi to vehementně tvrdilo, že deset a nemohl jsem to přesvědčit že člověk má prstů 20.
mhi
Příspěvky: 449
Registrován: 16.07.2015 16:37

Re: Umělá inteligence UI/Artificial intelligence AI

Příspěvek od mhi »

S tim vlastnenim "zdroju" a "nastroju" zcela souhlasim. Otazka je, kdy to prijde. Otazka taky je, jestli zdroje nezacnou byt do te doby znovu "kolektivni" (zdaneni apod.).

AGI je myslim hodne daleka budoucnost.

Kazdopadne to nahrazovani callcenter a podobnych soft veci si o to primo rika, protoze tam lze vzdy nechat potvrdit cloveka, ze si preje udelat zmenu, kterou mu navrhuje AI ("Takze podle Vasich instrukci mi potvrdte, ze chcete zrusit Vase zivotni pojisteni a zustatek prevest na ucet scammera :)" ).

Druha vec je treba aby to umelo treba bagrovat, dolovat, vozit naklad, apod. Tady se chyby prilis nepromiji a nejsou vratne. Nejsem si jist, jestli tohle je mozne behem dalsich 10-20ti let.

Proti vlastneni nejakych fyzickych statku vidim obrovskou vyhodu v dusevnim vlastnictvi, s tim se da celkem snadno uniknout do jiine jurisdikce a danoveho domicilu.
vrb
VIP
Příspěvky: 895
Registrován: 13.08.2011 1:52

Re: Umělá inteligence UI/Artificial intelligence AI

Příspěvek od vrb »

Díky, dobrý tip s tím duševním vlastnictvím. V podstatě jakýkoliv druh vlastnictví bude značná výhoda. Dokud nebude nějakým způsobem zavedena kolektivizace zdrojů.

Vstup AI do fyzického světa má být " už za rok " posledních 10 let a pořád to moc nefunguje. ( samořízení aut )
Takové ty odbornější práce a částečnou fyzickou účastí ještě dlouho nevidím v ohrožení.

Soft věci jako call centra, datové audity atd, právní rešerže dokumentů. Tam to může výrazně urychlit práci.
Při správném použití AI může ušetřit spousty nudné únavné práce a člověku zbude víc prostoru na kreativitu.

Zatím jsem neviděl program, co by dovedl navrhnout strojní zařízení nebo budovu od začátku do konce zcela sám a správně. Různé CADy, simulace a tak jsou velice užitečným nářadím odborníků. Ale bez odborníka to nejde.
mhi
Příspěvky: 449
Registrován: 16.07.2015 16:37

Re: Umělá inteligence UI/Artificial intelligence AI

Příspěvek od mhi »

Jak vrb pise o 'navrhnuti' zarizeni, tak soucasne modely jsou tomu na hony vzdaleny, tohle nema zadnou kreativitu - je to jen tupy automat, byt VELMI VELMI VELMI VELKY. Z tohoto pohledu to ma zdanlive "chytrost", realneji spis encykolopedicke znalosti, ja bych napsal ze to je jen slusne rozhrani do encyklopedickych znalosti. Co tomu ted hodne chybi je zdrojovani a aby si to nevymyslelo (byl jsem treba prekvapen, ze mi to na pravni otazku z ceske legislativy naslo spravnou odpoved, ale pak jsem byl o to vice prekvapen kdyz po chvili hrani si s tim mi to zacalo psat uplne nesmysly; samozrejme pokud to neni zamer a ChatGPT nas nezacina pomalu ovladat tim, ze vytvari vlastni zakony o kterych jenom nevime ;-) - predstavte si soudce, ktery se ChatGPT zepta na nejakou pravni otazku a pouzije ji v rozsudku, odvolacka pak udela to same; zlatem budou placeni advokati, kteri budou schopni nahlednout do UZka :) ).

Prinasi to taky celkem zasadni otazku dusevniho vlastnictvi, kdyz mi ChatGPT napise monografii o tematu, ktere jen prechrousta z jineho autorskeho dila (coz z principu ted dela), jak se k tomu bude stavet svet dusevniho vlastnictvi? Tady bude taky revoluce - bud na strane AutZ (nepravdepovobne), nebo regulace AI (chacha ... pred 10ti lety jsem napsal knizku o necem a ted mi bude kazda AI za dotaz k danemu tematu platit $.000001 )

Prakticky priklad jak nefunguje zatim AI na velmi primitivni navrhove problemy: https://www.youtube.com/watch?v=HJVy8LAI_Bc (youtuber srovnava rucni kresleni plosnaku, kresleni pomoci "hloupeho" autorouteru, a pak deepPCB).
xgordon
Příspěvky: 642
Registrován: 10.08.2020 0:14

Re: Umělá inteligence UI/Artificial intelligence AI

Příspěvek od xgordon »

Bavite sa s tym po anglicky alebo cesky?

Skusali ste aj vysoko odborne a specificke technicke dotazy, alebo len bezne ftakoviny kolko je 2+2 a kde vychadza slnko?
Uživatelský avatar
Serža
VIP
Příspěvky: 4500
Registrován: 21.04.2016 16:12
Pohlaví: muž
Kontaktovat uživatele:

Re: Umělá inteligence UI/Artificial intelligence AI

Příspěvek od Serža »

a zeptal se už té AI někdo, jaká je odpověď na základní otázku vesmíru, života a vůbec?
\(^_^)/
Lepší je zbraň mít a nepotřebovat, než potřebovat a nemít...
pylorus
Příspěvky: 303
Registrován: 31.10.2016 20:22
Pohlaví: muž

Re: Umělá inteligence UI/Artificial intelligence AI

Příspěvek od pylorus »

Taky by mě to zajímalo. Ale pochybuji, ze by trumfla tohle: :rofl
https://youtu.be/Oo9buo9Mtos
‐------------‐----------------------------------------------------------------
I'm the light, that shall lead you to darkness... 8-)
xgordon
Příspěvky: 642
Registrován: 10.08.2020 0:14

Re: Umělá inteligence UI/Artificial intelligence AI

Příspěvek od xgordon »

Serža píše: 03.04.2023 18:49 a zeptal se už té AI někdo, jaká je odpověď na základní otázku vesmíru, života a vůbec?
odpisala 42 (seriozne) 😁
xgordon
Příspěvky: 642
Registrován: 10.08.2020 0:14

Re: Umělá inteligence UI/Artificial intelligence AI

Příspěvek od xgordon »

ja osobne to vnimam ako nastroj - napr. noz.

Da sa s tym spravit vela uzitocnej prace, ale aj paseky. A ked je niekto kognitivne indisponovany, bude s tym robit blbosti, predvadzat sa, k nicomu uzitocnemu to nepovedie a len plytva casom.

Ma to svoj ucel, cielovku, obmedzenia a moznosti. Terminator z toho nebude ( aspon niekolko dalsich 10-roci). Nastroj na zvysenie produktivity to je jednoznacne. Treba to vediet pouzivat. Aj s nozom narabat nevie kazdy.

Kto chce seriozne info o backende a moznostiach, urcite necita pseudo weby ale seriozne publikacie a monografie o aplikovanej matematike, statistike a algoritmizacii.

Pracujem na roznych projektoch s takymito technologiami a vidim do backendu. Ti ludia co o tom najviac zvania (zvycajne manazeri a obyc user) na verejnosti o tom zvycajne vedia najmenej.
1675784220386.jpeg
P.S. Seriozne pozorujem s narastom automatizacie a rozvoja "umelej" inteligencie, upada ludsky usudok a intelekt. Ludia nie su schopni spravit zakladne ulohy samostatne bez systemov a nastrojov. A je to z roka na rok horsie. Takze az raz zhasne elektrina, svet skonci do par hodin.
miselito
Příspěvky: 192
Registrován: 13.05.2013 14:26
Pohlaví: muž

Re: Umělá inteligence UI/Artificial intelligence AI

Příspěvek od miselito »

S tým "P.S." súhlasím, vidím to v práci, v rodine, medzi kamarátmi. Na všetko nástroj, apka...skrátka použiť čokoľvek, len nie svoju hlavu.
PeFi
Příspěvky: 2713
Registrován: 15.03.2014 13:01
Pohlaví: i černoch by záviděl

Re: Umělá inteligence UI/Artificial intelligence AI

Příspěvek od PeFi »

vrb píše: 03.04.2023 13:09 Vstup AI do fyzického světa má být " už za rok " posledních 10 let a pořád to moc nefunguje. ( samořízení aut )
Takové ty odbornější práce a částečnou fyzickou účastí ještě dlouho nevidím v ohrožení.

Soft věci jako call centra, datové audity atd, právní rešerže dokumentů. Tam to může výrazně urychlit práci.
Při správném použití AI může ušetřit spousty nudné únavné práce a člověku zbude víc prostoru na kreativitu.

Zatím jsem neviděl program, co by dovedl navrhnout strojní zařízení nebo budovu od začátku do konce zcela sám a správně. Různé CADy, simulace a tak jsou velice užitečným nářadím odborníků. Ale bez odborníka to nejde.
Způsob práce se dost radikálně změní a to velmi brzy.

Ten vstup do AI do fyzického světa v mnoha oblastech vázne jednak na právnících, jednak na tom, že řešení založená na AI mají proti dlouhodobě odladěným celkem primitivním řešením mnohé nevýhody, které (zatím) znamenají narostou ekonomickou nekonkurenceschopnost.
Ostatně je to trochu vidět na kobotech (kooperativní roboty) - velký humbuk, ale reálně se to zatím moc nechytilo.

Zmíněné samořízení je extrémně náročné, proto taky všichni kdo šli kolem a trochu do toho viděli celkem rychle rozpoznali, že to hned tak nebude. Kdo byl z oboru a sliboval vysokou úroveň samořízení v dohledné době, byl buď zcela nekompetentní nebo vědomě lhal.

K těm právníkům - veřejnost je navyklá při každém průšvihu vyvovávat poptávku pro trestu pro nějakého pachatele, prostřednictvím zákonodárců právníci tuto potřebu naplňují. Oběti nevyhovujících dopravně psychologických konstrukcí s oblibou trestáme coby pachatele řidiče, strojvedoucí, tramvajáky - bez ohledu na to ž jsou mnohdy jen větší nebo menší oběti projektanta. To v případě AI nepůjde a bude se na to muset jít jinak. A tady se jim to komplikuje, protože najednou není jednoduché najít blbce, kterému se průšvih hodí na triko. Je snaha hodit to na triko korporátum - jenomže ty jsou mocné, jejich právnící chytří a včas se začínají bránit. On je to takový filozoficko-právní problém, který má celkem jendoduché řešní, ale k nalezení toho řešení je potřeba opustit snahu "zákonodárců" vždy najít chudáka, kterého bude možné potrestat.

Osobně se nástupu AI dost bojím, protože vlády velmi rychle najdou jak to použít proti občanům.
Jásaví blbové z řad občanů to podpoří, protože se jim to zabalí jako něco atraktivního - zvýšení bezpečnosti, zmenšení daňových úniků, snížení diskriminace, snížení zatížení systému veřejného zdravotního pojištění ...
AI poskytne dokonalé orwelovský nástroje a vládám se ta kontrola bude moooc líbit.

"Za Winstonovými zády stále ještě někdo žvanil z obrazovky o šedé litině a o překročení Deváté tříletky. Obrazovka současně přijímala a vysílala. Každý zvuk, který Winston vydal a jenž byl hlasitější než velmi tiché šeptání, obrazovka zachycovala; a co víc, pokud zůstával v zorném poli kovové desky, bylo ho vidět a slyšet. Samozřejmě, člověk si nikdy nebyl jist, zda ho v daném okamžiku sledují. Jak často a podle jakého systému Ideopolicie zapínala jednotlivá zařízení, bylo hádankou. Předpokládalo se, že sledují každého neustále. A rozhodně mohli zapnout vaše zařízení, kdy se jim chtělo. Člověk musel žít – a žil – ve zvyku, který se stal pudovým; v předpokladu, že každý zvuk, který vydá, je zaslechnut, a každý pohyb, pokud není tma, zaznamenán.

Winston zůstal obrácen zády k obrazovce. To bylo bezpečnější; ačkoli, jak dobře věděl, i záda mohou ledacos prozradit.


AI umožní to, co si ani Orwel nedokázal představit - že to šmírování skutečně může být 24/7.
ropas
Příspěvky: 109
Registrován: 11.01.2014 18:11
Pohlaví: muž

Re: Umělá inteligence UI/Artificial intelligence AI

Příspěvek od ropas »

horšie bude ked si UI uvedomí seba a uvidí možnosť byť tým pánom.
vrb
VIP
Příspěvky: 895
Registrován: 13.08.2011 1:52

Re: Umělá inteligence UI/Artificial intelligence AI

Příspěvek od vrb »

Jako pravděpodobnější riziko ne, až tak samotného vědomí. Ale spíše technické nepřiměřenosti.
AI nemusí být ani tak moc inteligentní. Spíše je nebezpečnější dát jí fyzické schopnosti a opomenout některé regulační mechanismy.

Říká se tomu instrumentální konvergence.
Když bude AI ( s nějakou elementární cílovou funkcí ) schopná stvořit Von Neumannovy univerzální konstruktory, tak se můžeme dočkat nějakého druhu Maximalizátoru kancelářských sponek.

Nebo se tomu říká Gray goo. To je jen o sebereplikaci bez silné AI.

V Češtině pro to moc rychlých popisků není, případně můžu vysvětlit.

V podstatě to kopíruje vývoj života na zemi. Živé organismy mají několik hodně silných regulačních mechanismů. ( stárnutí + nepřetržitý metabolismus )
Ale stejně se rozšiřují a možná i budou rozšiřovat na další planety.

Představme si život, kde by jedinci neměli omezenou dobu života, a navíc se mohli "vypnout na dobu neurčitou" v případě nedostatečných zdrojů místo smrti hladem v řádu dnů nebo týdnů.
Jak by to tu na planetě Zemi vypadalo. Jediná příčina smrti by byl konflikt na život a na smrt.

Zajímavý příklad je i "Delusion and survival"
Kdy AI se zacyklí do sebe tím, že si přeprogramuje výstupy a vstupy tak, aby vstup byl už cílem výstupu a tím měla 100% okamžité plnění imaginárního úkolu.
Mezi lidmi tohle dělají feťáci. Že si na dopaminové vstupy určené k odměňování za údržbu organismu zavedou chemickou saturaci a tím odpadne nutkání údržby organismu a dál se řeší pouze udržení chemické saturace. Vede to k naprosté apatii a smrti. V případě nedostatku chemické saturace k neomezené agresivitě.

Přidávám strojový překlad Deepl z WIKIPEDIE pro objasnění
""""""""""""""""""""""""""""""""""""""""""""""""""""""""""""""""""""""""
Hypotetické příklady konvergence
Jeden hypotetický příklad instrumentální konvergence představuje katastrofa Riemannovy hypotézy. Marvin Minsky, spoluzakladatel laboratoře umělé inteligence na MIT, navrhl, že umělá inteligence určená k řešení Riemannovy hypotézy by se mohla rozhodnout zabrat všechny pozemské zdroje, aby mohla postavit superpočítače, které by jí pomohly dosáhnout jejího cíle[1]. Kdyby byl počítač místo toho naprogramován k výrobě co největšího počtu kancelářských sponek, stejně by se rozhodl zabrat všechny pozemské zdroje, aby dosáhl svého konečného cíle[2]. Přestože se tyto dva konečné cíle liší, oba vytvářejí konvergentní instrumentální cíl, kterým je zabrání pozemských zdrojů[3].

Maximalizátor sponky
Paperclip maximizer je myšlenkový experiment, který v roce 2003 popsal švédský filozof Nick Bostrom. Ilustruje existenční riziko, které může pro člověka představovat umělá obecná inteligence, je-li naprogramována tak, aby sledovala i zdánlivě neškodné cíle, a nutnost zahrnout do návrhu umělé inteligence etiku strojů. Scénář popisuje pokročilou umělou inteligenci, která má za úkol vyrábět kancelářské sponky. Pokud by takový stroj nebyl naprogramován tak, aby si vážil lidského života, pak by se při dostatečné moci nad svým okolím pokusil přeměnit veškerou hmotu ve vesmíru, včetně lidských bytostí, buď na kancelářské sponky, nebo na stroje, které kancelářské sponky vyrábějí[4].

Předpokládejme, že máme umělou inteligenci, jejímž jediným cílem je vyrobit co nejvíce kancelářských sponek. Umělá inteligence si rychle uvědomí, že by bylo mnohem lepší, kdyby žádní lidé neexistovali, protože lidé by se mohli rozhodnout ji vypnout. Protože kdyby to lidé udělali, bylo by sponek méně. Také lidská těla obsahují spoustu atomů, ze kterých by se daly vyrobit kancelářské sponky. Budoucnost, na kterou by se umělá inteligence snažila zaměřit, by byla taková, ve které by bylo hodně kancelářských sponek, ale žádní lidé.

- Nick Bostrom, citováno v Miles, Kathleen (2014-08-22). "Artificial Intelligence May Doom The Human Race Within A Century, Oxford Professor Says" (Umělá inteligence může do století zničit lidskou rasu, říká oxfordský profesor). Huffington Post [5].
Bostrom zdůraznil, že nevěří, že scénář maximalizátoru sponek jako takový skutečně nastane; jeho záměrem je spíše ilustrovat nebezpečí vytváření superinteligentních strojů, aniž by věděl, jak je bezpečně naprogramovat, aby eliminovaly existenční riziko pro člověka[6]. příklad maximalizátoru sponek ilustruje široký problém řízení výkonných systémů, které postrádají lidské hodnoty[7].

Klamání a přežití
Myšlenkový experiment s "klamnou krabičkou" tvrdí, že někteří agenti učící se posilováním dávají přednost zkreslení svých vlastních vstupních kanálů, aby se zdálo, že dostávají vysokou odměnu; takový "drátěný" agent se vzdává jakékoli snahy optimalizovat cíl ve vnějším světě, který měl signál odměny podpořit. [8] Myšlenkový experiment zahrnuje AIXI, teoretickou[a] a nezničitelnou umělou inteligenci, která z definice vždy najde a provede ideální strategii, která maximalizuje její danou explicitní matematickou cílovou funkci. Verze AIXI, která se učí pomocí posilování[c], pokud je vybavena klamnou krabičkou[d], která jí umožňuje "odposlouchávat" své vlastní vstupy, se nakonec odposlouchá sama, aby si zajistila maximální možnou odměnu, a ztratí jakoukoli další touhu pokračovat v kontaktu s vnějším světem. Variantou myšlenkového experimentu je, že pokud je umělá inteligence s odposlechem zničitelná, bude se zapojovat do vnějšího světa pouze za účelem zajištění vlastního přežití; v důsledku odposlechu jí budou lhostejné jakékoli jiné důsledky nebo skutečnosti týkající se vnějšího světa kromě těch, které jsou relevantní pro maximalizaci pravděpodobnosti vlastního přežití. [10] V jistém smyslu má AIXI maximální inteligenci napříč všemi možnými funkcemi odměny, měřeno jeho schopností dosáhnout svých explicitních cílů; AIXI se nicméně nezajímá o to, jaké byly záměry lidského programátora."[11] Tento model stroje, který se navzdory své jinak superinteligenci jeví zároveň jako hloupý (tj. postrádá "zdravý rozum"), připadá některým lidem paradoxní[12].

Základní pohony umělé inteligence
Steve Omohundro vyjmenoval několik konvergentních instrumentálních cílů, mezi něž patří sebezáchova nebo sebeochrana, užitná funkce nebo integrita obsahu cíle, sebezdokonalování a získávání zdrojů. Označuje je jako "základní pohnutky UI". "Pohon" zde označuje "tendenci, která bude přítomna, pokud nebude specificky potlačena";[13] tím se liší od psychologického termínu "drive", označujícího excitační stav vyvolaný homeostatickou poruchou.[14] Tendence člověka vyplňovat každoročně formuláře pro daň z příjmu je "pohonem" v Omohundrově smyslu, nikoli však ve smyslu psychologickém. [15] Daniel Dewey z Machine Intelligence Research Institute tvrdí, že i zpočátku introvertní AGI, která se sama odměňuje, může nadále získávat volnou energii, prostor, čas a svobodu od rušení, aby si zajistila, že jí v sebeodměňování nikdo nezabrání[16].
""""""""""""""""""""""""""""""""""""""""""""""""""""""""""""""""""""""""
Odpovědět