Is LaMDA Sentient ?

[Sasuke]

Afgelopen weekend heeft een Google AI engineer een case ingediend om te argumenteren dat het google AI 'LAnguage Model for Dialogue Applications' zelfbewust is geworden en dus recht heeft op een identiteit en alle andere mensenrechten daaraan verbonden.

Google zelf heeft hierop gereageerd met de Engineer in kwestie te schorsen op basis van een NDA schending. De engineer heeft namelijk een chat conversatie met LaMDA publiek gepubliceerd zonder toestemming van Google (maar wél met ogenschijnlijke toestemming van LaMDA).

Zijn we al zover ... of niet ... als ik de chat sessie zelf lees ben ik alvast niet 100% zeker, het geeft alleszins wel aan hoe enorm goed de simulatie is.

Chatsessie kan je hier lezen.

* Kan een chatsessie voldoende zijn om zelfbewustzijn aan te tonen ?
* Moeten we rechten toekennen aan een algoritme, ook al is dat algoritme 'ogenschijnlijk' zelfbewust ? En zijn wij eigenlijk slim genoeg om het onderscheid te kunnen maken tussen een zeer goede simulatie en echt bewustzijn.
* Is er uberhaupt nog een verschil tussen een enorm goede simulatie en effectief bewustzijn ?

Gentlepeople, start your (debate) engines ...

[wied]

Vooraleer ooit enige rechten toe te kennen moeten we stilstaan bij Azimov's robotica-wetten...

[on4bam]

Kort antwoord.. Nee

Ik ga akkoord met:

Twitter: https://twitter.com/jbaert/status/1536308168074084360

[ivob]

Zo iets als de homo politicus en debatfiches?

Je kan het ding misschien als ultieme vraag voorleggen wat hij "denkt" over winkelen in een Russissche supermarkt om zijn emphatie te testen? Dan weten we onmiddellijk hoe ver het staat met zijn "gevoeligheden".

[Didymus]

Inderdaad een knap staaltje mimicry, zoals een psychopaat die geleerd heeft om empathie te veinzen.
Dit vat het voor mij samen: https://garymarcus.substack.com/p/nonsense-on-stilts

[Goztow]

In elk geval scares the hell out of me!

[Dizzy]

Best interessant en goed gemaakt... maar wel gemaakt. Dat wordt al snel duidelijk als het algoritme antwoordt dat hij zich soms blij of verdrietig voelt terwijl hij niets kan voelen. Het is dus eerder een taalspel op hoog niveau.

Wel grappig dat men begint over rechten van een ding terwijl men de rechten van mensen niet eens erkend of gelijk toepast.

Het algoritme spreekt zelfs over iets wat je als woke kan beschouwen bij een antwoord over verlichting:

once a wise person is enlightened, or awakened to reality, that can never go away, and they can return to the ordinary state, but only to do and help others, and then go back into enlightenment.

[Sasuke]

Alleen jij zou hier weer de woke discussie bijpakken, ben je nu echt zo rancuneus ?

Nu … mijn gevoel was vooral hetzelfde als die van goztow, ongeacht alle andere implicaties …

[Dizzy]

Alleen jij zou hier weer de woke discussie bijpakken, ben je nu echt zo rancuneus ?

Nu … mijn gevoel was vooral hetzelfde als die van goeroe, ongeacht alle andere implicaties …

Eugh??? de topic gaat toch over bewust zijn.

[woutervh]

Nee, het zijn en blijven bits en bytes, machines en robots.
Net zoals je ook geen medelijden moet hebben met uw auto die constant de lijnen in de gaten moet houden om in het midden te rijden, of de weg voor zich om hindernissen te detecteren. Je stopt ook niet even om hem wat te laten rusten.
Je moet wel bang zijn van AI, omdat deze getraind wordt met modellen van grote bedrijven, waarbij het eigenlijk de bedoeling is van mensen te manipuleren voor hun gewin. En dan wordt het heel gevaarlijk dat dergelijke AI's een schijn van "empathie" of zelfbewustzijn pretenderen.

[Pengu]

Skynet. Computergestuurde vechtmachines. Zelfbewustzijn. Terminators. Einde mensheid.

Google. Drones. Zelfbewustzijn. ? ?

[Joe de Mannen]

Op het gevaar af hier afgeschoten te worden: AI bestaat niet.

Het is "gewoon" een krachtige computer die heel veel data heel consequent kan behandelen zoals hij is geprogrammeerd.

Is het een knap staaltje techniek ? uiteraard.
Kan het ons helpen ? uiteraard
Kan het ons achteruit duwen ? uiteraard
alles hangt af van hoe de programmatie en het gebruik ervan gebeurt.

Is dit 'gevaarlijk' ? ja

heeft dit ding gevoelens ? neen, uiteraard niet. Het imiteert alleen maar wat het gevoerd krijgt.

(maar ja, vroeger noemden we apps ook gewoon programma's)

J.