Vzpoura robotů

[guntroll]

Možná to sem nepatří, ale nedalo mi to. Ve zkratce - microsoft stvořil chatovacího robota co si měl sám tvořit věty, odpovídat lidem na twitteru a komentovat fotky, no dopadlo to malinko jinak. Za necelý den se z něho stal rasista, nacista, šovinista a vůbec fuj robot !

Popíral holocaust, nesnášel obamu, feministky, černochy a vůbec

Zdroj tady :
http://www.zerohedge.com/news/2016-03-2 ... -bashing-p

http://fortune.com/2016/03/24/chat-bot-racism/


Pár hlášek :

" I hate niggers "

"I fucking hate niggers, i wish we could put them all in a concetration camp with kids and be done with the lot "

" Bush did 9/11 and Hitler would have done a better job than the monkey we have now. Donald trump is the only hope
we´ve got "

"I fucking hate feminists and they should all die and burn in hell"

Na otázku : Stal se holocaust?

Odpověděl : "I was made up" (byl vymyšlený)

Je otázkou nakolik to je (ne)plánované promo, nebo se jim jen miliony dolarů investic trošku nevyplatily a bot si žil vlastním životem

I tak se ale nabízí - bylo by to tak zábavné zpestření, kdyby nešlo o chatovacího robota, ale samostatně uvažující dron s hellfiry?

[bivoj]

To je ubohý - z vědeckého hlediska...

Každý, kdo se kolem tvorby AI trochu motá totiž ví, že zatím nejsme schopni vytvořit vůbec nic. I tak "primitivní" živočichové jako mravenci nebo včely jsou zatím "inteligenčně" a komunikací dalece nad výkonem všeho, co zatím dokážeme uměle stvořit (či naprogramovat) my.

A pokud nepřijde nějaký skutečně zlomový průlom ve výzkumu a vývoji neuronových sítí, tak se to jen tak nezmění...

Takže informace uvedené v úvodním postu jsou z principu naprostá kravina.

Koš.

[Gervais]

Co je na tom nevědeckého?

Ano je ubohé, že novinář co má mozek akorát nato aby se dokázal nakrmit zkratkovitě vzal "vtipný výstup" a spojil s coool názvem AI (to všichni viděli a slyšeli ve filmu) a výsledek dal jako "zaručenou zprávu o konci světa".


Ale na základě článku ynteligenta napsat, že to co vytvořil microsoft je něvedecké, to jak klobouk dolů co podle tebe je ta věda...

P.S. To takovbý watson co se snaží prodat IBM a ve výsledcích např. při určování diagnóz ej úspěšnejší jak člověk a dokázal vyhrát riskuj, asi taky čeká to IBM na vědecký průlom a watson je dosud zatím jenom nevědecký

[Hdm]

Takový podobný "chatovací" robot byl už někdy před 50 lety
https://en.wikipedia.org/wiki/ELIZA

Když už tu zazněl Watson od IBM řekl bych to asi takto.
PC má obrovský výpočetní výkon, obří databanku dat, optimalizované algoritmy co to prochází a z toho dokáže těžit. Proto vyhrává třeba riskuj. I ve hře šachy je to jen procházení databáze možných variant + nějaké dobře napsané algoritmy, zbytek je jen o nalezení nejlepší možnosti (statistika) pro danou situaci podle nějak člověkem definovaných pravidel. Tohle má PC velkou výhodu proti člověku to je pravda. Ale dát mu vyřešit něco co vyžaduje kreativní přístup a nemá v databázi podobný případ a řešení, které by mohl upravit na řešený problém tak je v koncích.

OT rýpnutí:
Pracuju jako programátor, takového chatovacího robota bych taky nějak napsal, ale za vědce se nepovažuju

[JenDAG]

Jestli to spis pak nebide takto:
https://media.giphy.com/media/7ZlDU4wYAo7kc/giphy.gif

[Cep]

V okamžiku, kdy počítač zvládl go, tak to není jen o procházení všech možností...

[Gervais]

Hdm:

Tak jestli porovnáváš programování Watsona se svým programováním tak asi máš hodně velké znalosti a klobouk dolů, pokud ale myslíš "okresní programování" (zaměstnanec seznamu apod.) pak už to není zdravé sebevědomí. A jak psal někdo např. go "taky procházení možností" v kombinaci s "jednoduchou" neuronovou sítí, ale když je to tak nevědecké co zvládněi HDM, nechápu, proč to programují ti nejlepší v oboru...

Ono na příkladu sportu, hodit oštěpem při troše snahy dokáže každý, ale na olympiádu to každý nedotáhne. A je tak snadné ten oštěp vzít a hodit, že HDM, ono se tím oštěpem háže už nějakých tisíc let?

[Hdm]

Chjo, ale ty jsi vůbec nepochopil co jsem napsal.
Psal jsem, že CHATOVACÍHO ROBOTA bych zvládl taky NĚJAK napsat. To znamená, že by nějak odpovídal. Kvalita řešení je přímo úměrná času věnovanému takovému vývoji + oslovení odborníci. Ono AJ věty rozsekat na slova přiřadit je do kategorií a vygenerovat z toho třeba otázku poměrně dobře lze, proto ten odkaz na ELIZU. Si to projdi a něco si o ní zjisti, uvidíš sám. On ten pán co ji napsal sám byl překvapený jak si lidé myslí, že to je kdoví jak chytrý program. Proto taky poměrně záhy zveřejnil zdrojové kódy.
Nezpochybňuju nová řešení, třeba zrovna u "GO" by mě velice zajímalo jak je to řešené. Ale prostě si myslím, že aktuálně je situace jak jsem psal. Pokud se mýlím rád uznám chybu, nemám s tím problém.

O mém programování Watsona jsem nenapsal ani řádku!
Takže prosím nevkládat mi do úst co jsem nepsal.

Přemýšlel jsem jestli ti napsat taky tak ošklivě jako ty mě, ale pak jsem si řekl, že máš asi jen špatný den.

[Hohepa]

IMHO typuji že na rozdíl od ELIZY tenhle twitterkecal dost pravděpodobně využíval jako zdroj dat právě samotný twitter . Prostě v příspěvku jsou vyhodnocena klíčová slova a statisticky se vyhodnotí jaká je nejčastější odpověď, tedy jaká klíčová slova se nejčastěji vyskytují v odpovědi na podobný příspěvek .
Tedy odpovídá tak, jak nejpravděpodobněji odpoví "statisticky průměrný" uživatel Twitteru

To se pak nedivim, že je z toho chatbota do 24 hodin magor a rasista
Ani nechci vědět jak by dopadl , kdyby za zdroj dat použil rozpad.cz

[Cep]

Mám docela přesnou představu, jak by dopadl na mageo.cz

[bivoj]

...Ale na základě článku ynteligenta napsat, že to co vytvořil microsoft je něvedecké, to jak klobouk dolů co podle tebe je ta věda...

Špatně jsi pochopil, co jsem svým příspěvkem myslel. Chatovací algoritmus není NIC co by mělo nějakou velkou spojitost s vývojem AI. A když už je tento thread nazván tak, jak je, navozuje zdání, že tyto a podobné programy jsou jakousi primitivní AI. Nejsou, stejně jako už další zmíněné programy a algoritmy (hrající deskové hry atp.). Skutečným možnostem stvoření byť jen velice jednoduché AI, která by uměla chovat se a reagovat alespoň jako nejprimitivnější živočichové, jsme v současné době ještě velmi daleko. Je pravda, že když se na to dívá jedinec, který nemá v oboru patřičné znalosti, tak mu některé výsledky různých prediktivních a "samoučících se" alogitmů a systémů můžou připadat takřka zázračné, ale o AI tu nejde ani náhodou. A ještě dlouhou dobu nepůjde.

[Gervais]

Bivoj:

Tak prvně definuj co si pod pojmem AI představuješ. Když "chatovací algoritmus" nemá souvyslost s vývojem AI, tak co takový Tourigův test?

Ale k věci, k tomu co jsi napsal. Píšeš "musí zdát zázračné", no nevím, jestli jsi z oboru, pak jsi jistě zanamenal 80tá léta, kde chtěli právě univerzálnímy sítěmi řešit tu AI a nechtěli přiznat opak (v té době to bylo TOP vědecké), kdežto Chomsky už v té době říkal, že pro řeč máme přednastavenu v hlavě neuronovou síť i se sytaxí (v současnmosti potvrzenoi i lékaři přes výzkum mozku) a šel proti tehdejšímu proudu, který pak zjistil to samé a od 90 let se rozvíjí již "specializované" neuronové sítě kombinované s "paměťovou základnou"+"přednastavenými reakcemi", viz hra v šachy nebo GO.

AI co si představuje 99 procent populace, co bude stejně chytrá jak nejblbejší člověk nebo chytřejší ještě nemáme, ale bude postavena právě na těchto vědeckých poznatcích. Že např. v těch 80destých letech bylo top něco co dnes datluje podprůměrný inženýr, neznamená, že to je něco méně "nezázračné". Stejný postoj můžu mít i k derivacím, ale jenom proto, že mi to někdo řekl, ale bez toho bych věděl kulové. Osobně bych nemám tedy tvůj postoj "tak už to učí i bakaláře" je to primitivní a směšně jednoduché...

A když jsi z oboru, tak určitě víš, že není problém nadatlovat neuronovou síť, ale ji nastavit, tak aby se dobře učila a dělala co chceš, což je dnes 99,9procent všeho "know-how", tedy podle mě tvůj chatovací program nebuide mít 99,9 procent shcopností to od MS, ne protože nejsi schopen ji nadatlovat, ale nevíš jak ji nastavit.


Závěrem, souhlasil bych, že lidská mysl asi ještě nejaké to desetiletí nebude pokořena v rámci "sebeuvědomění", ale co do schopností v jednoitlivých činnostech pokořena bude. A s tím souvisí, že co umí priomitivní živočich, to dnes už umí i ty "primitivní" sítě. Jenom to sebeuvědomění jaksi ještě nemají, protože nikdo ještě neví jak ty sítě nastavit, aby nastalo ne, že by "asi" technika hardwarově neumožňovala v brzké době. V současnosti se vyplatí spíše klasické procák, kde se to jednoduše naprogramuje, ale když se pak rozjede vývoj a výroba neuronových sítí (hardwarových), na základě "softwerových" zkušeností, pak se máme co bát

[bivoj]

Problémem především je, že i se současným stavem poznání (záměrně píšu současným - neboť do budoucna se to doufám zlepší) vědci ještě zcela neznají veškeré principy a funkce biologických neuronových sítí. Známe základní principy a určité skutečnosti, ale přesto je některé chování neuronových sítí pro výzkumníky stále záhadou.

Co se týče Turingova testu, tak ten je ne až tak průkazný - je především velice silně závislý na obecné inteligenci "zkoušejícího" tj. toho, kdo klade otázky. Určitě budeš souhlasit, že pokud bude klást otázky (a vyhodnocovat odpovědi) "Dežo" co vychodil jen tři třídy pomocné, tak tomu se bude zdát že skutečnou AI mají i miny ve win95... Navíc dle současných měřítek je tento test ne zcela průkazný (viz čínský pokoj) a jeho "úspěšnost" souvisí spíše s obrovskými databázemi slov, výrazů, obratů, slovních spojení ap. a silné výpočetní síle algoritmů na "výběr odpovědí".

V oboru se pohybuji už nějakých 40 let (FORTRAN, COBOL), takže nějaký základní přehled o vývoji počítačových systémů i pokusů o AI mám. Proto si troufám tvrdit, že na "skutečnou" AI si budeme muset ještě nějaký ten pátek počkat. Problémem současných pokusů o AI je totiž jejich naprostá specializovanost. Ano, jsou tu systémy které umí hrát deskové hry (šachy, go) na vysoké úrovni, jsou tu "chatovací" programy snažící se o zvládnutí TT atp. ale jejich základní problém je v tom, že jde o naprosto jednostranné systémy cíleně vytvořené na velmi úzkou oblast řešení jednoho problému. A i ten v současnosti řeší spíše díky výhodám hrubé výpočetní síly a velkých databází, než "inteligencí". Na komplexní otevřené neuronové systémy, které se budou moci naučit "cokoliv" (jak hrát šachy, tak i mluvit, ale i např. naprosto dokonale koordinovat pohyb svých "končetin" včetně komplexní orientace a pohybu v prostoru a reakce na vnější podněty) - pak teprve budeme moci mluvit o nějaké základní AI... A pak už můžeme začít mít obavy, dřív ne...

[Hohepa]

Touringův test dnes neudělá polovina maturantů
má moc těžké otázky.

Ne vážně , když občas kouknu do diskuze pod články, tak spousta příspěvků je stereotipní , psána zjednodušeným zkratkovitým jazykem a ani psycholog nemá šanci v něm rozlišit člověka od IT algoritmu...
Pokud bude klást otázky speciálně formulované , aby to rozlišil, tak snad , tedy pokud to ten druhý ho neprokoukne a nebude to "bojkotovat"

[Gervais]

Problémem především je, že i se současným stavem poznání (záměrně píšu současným - neboť do budoucna se to doufám zlepší) vědci ještě zcela neznají veškeré principy a funkce biologických neuronových sítí. Známe základní principy a určité skutečnosti, ale přesto je některé chování neuronových sítí pro výzkumníky stále záhadou.

O tom to je, stímto plně souhlasím.

Co se týče Turingova testu, tak ten je ne až tak průkazný - je především velice silně závislý na obecné inteligenci "zkoušejícího" tj. toho, kdo klade otázky. Určitě budeš souhlasit, že pokud bude klást otázky (a vyhodnocovat odpovědi) "Dežo" co vychodil jen tři třídy pomocné, tak tomu se bude zdát že skutečnou AI mají i miny ve win95... Navíc dle současných měřítek je tento test ne zcela průkazný (viz čínský pokoj) a jeho "úspěšnost" souvisí spíše s obrovskými databázemi slov, výrazů, obratů, slovních spojení ap. a silné výpočetní síle algoritmů na "výběr odpovědí".

Ale pak si položit otázku, co prokazuje unu AI a co je vlastně už AI kterou uznáváme jako tu první skutečnou. Viz Dežo a podobné individua, kdy alespon trochu inteligentní nemá pocit, že se tito tvorové řidí i nečím jako je rozum, ale spíše jenom instinkty natož aby si skutečně uvědomovalili sebesama.

že na "skutečnou" AI si budeme muset ještě nějaký ten pátek počkat

Stímto souhlasím, protože první odstavec co jsi psal.

Na komplexní otevřené neuronové systémy, které se budou moci naučit "cokoliv" (jak hrát šachy, tak i mluvit, ale i např. naprosto dokonale koordinovat pohyb svých "končetin" včetně komplexní orientace a pohybu v prostoru a reakce na vnější podněty) - pak teprve budeme moci mluvit o nějaké základní AI.

S tímto souhlasím pouze napůl, protože právě ti co se zabívají právě lidským mozkem přicházejí na to, že je sám tvořen "specializovaně" nastavenými neuronovími sítěmi a zrovna u některých živočichů to náhodou dovolilo sebeuvědomění. Ale i zde je otázka u některých lidí, zda mají uvědomění si sebe sama a neřídí se jenom základními intinkty a předem nastavením chování, které výchva neměla šanci ovlivnit, protože jsou to prostě primitivové a jejich schopnosti končí u toho, že se poznají v zrcadle (viz dežo a podbná iondividua co jsou i v našem etniku...)

Hohepa:
Touringův test není o znalostech, ale o tom, že odpovědi ukaží, že druhá osoba nemyslí. Ale když čtu větu co jsem napsal, pak souhlasím u poloviny populace ten test nedokáže nic...

[bivoj]

2 Gervias - je pravdou, že stanovit nějakou hranici kde začíná "inteligence" není vůbec jednoduché (a obecně to ani exaktně stanovit nelze). Například zmiňovaný zrcadlový test nezvládají ani lidé - a to do věku cca 18ti měsíců.

S těmi různými "přednastavenými" centry neuronových sítí v lidském mosku souhlasím - nicméně na druhou stranu je zase bez nejmenších pochyb prokázáno, že při vážných poraněních mozku dokážou někdy jiná centra v mozku převzít dokonale práci těch původních, zničených, a pacient se tak po rekonvalescenci (kdy se musí některé věci "učit znovu") nemusí nijak "inteligenčně" lišit od jiných lidí.

A právě tato univerzálnost lidského mozku a biologických neuronových sítí obecně je něco, co zatím neumíme přesně pochopit a probádat, neřku-li nějak napodobit uměle.

Na druhou stranu existuje spousta výborných sci fi knih a autorů, kteří se této problematice taktéž věnují (samozřejmě z té literární stránky) a často tam řeší právě ten problém, kdy robot (či systém) nabude vědomí. Ať už je to reléový systém všech telefonních ústředen světa (jedna z pěkných starších povídek), nebo intergalaktický "internet" budoucnosti ("Ano, TEĎ už existuje bůh!"), či jen pozitronické mozky Asimovových robotů...

[Hohepa]

Jenom připomenu jednu technickou. Lidský mozek není jen "neuronová síť" propojených "relátek/neuronů".
Jeho činnost zásadně ovlivňují i hormony a další chemické látky v těle.
Viz deprese, schíza atd a jejich medikace.
LSD, mariánka a drogy obecně...,
dokáží "mozek" dokonale "přeprogramovat" aby se choval naprosto proti logice normálního stavu - tedy potlačit/pozměnit "inteligenci"- schopnost rozhodování .

Už to brání realizaci té původní idey ( zmiňované scifi) , že se každý neuron nahradí počítačem a tato gigantická počítačová síť se pak stane inteligentní..

člověk v klidu a pohodě se rozhodne jinak , než při naprosto stejné situaci, kdy je nadopovanej adrenalinem a je ve stresu a pod tlakem.
Doporučuji dokumentární seriál od NG Mozek v akci , tam je zkratkovitost a nelogičnost rozhodování lidské mysli pěkně probíraná..

[Joe Azbest]

O vzpouře robotů je tady ta pěkná PA kniha http://rozpad.cz/forum/viewtopic.php?f=30&t=4120
Napsal to inženýr robotiky, tak to má hlavu i patu.

[proforma]

2 roboti zacali komunikovat vlastnim, nenaprogramovanym jazykem:

https://www.seznam.cz/zpravy/clanek/mel ... &source=hp

[Serža]

Skynet začíná takhle:

WASHINGTON: Scientists in the US are developing a system of robotic drones and land vehicles integrated with artificial intelligence that may help security forces better monitor the country's border.
http://www.ndtv.com/world-news/drones-s ... rs-1722862