Google entwickelt Killswitch, um Robo-Rebellion à la Skynet zu verhindern

4. Juni 2016

Das Google-Team, das an der Erforschung von Künstlicher Intelligenz arbeitet – Deep Mind –, entwickelt nach eigener Aussage einen Algorithmus, der verhindern soll, dass sich maschinell lernende Programme emanzipieren und gegen Menschen wenden.

Das Prinzip nennt sich „safe interruptibility“:

„Safe interruptibility can be useful to take control of a robot that is misbehaving and may lead to irreversible consequences, or to take it out of a delicate situation, or even to temporarily use it to achieve a task it did not learn to perform or would not necessarily receive rewards for this,“ the researchers write.

Sowohl Elon Musk als auch Stephen Hawking hatten vor einer Rebellion der Maschinen gewarnt. Zwei weitere Forscher sprechen dabei von einem möglichen Spezizid: Die vollständige Vernichtung der Spezies Mensch durch Roboter – was, wenn wir ehrlich sind, die einzige logische Konsequenz aus maschinellem Lernen anhand der Menschheitsgeschichte wäre. Schließlich hat auch Microsofts Tay innerhalb kürzester Zeit ihre Sympathien für Völkermord entdeckt.

Auch im Blog:  Microsofts Twitter-Bots kurzes Comeback endet in Nervenzusammenbruch

Insofern macht so ein Killswitch aus Menschensicht Sinn. Das Paper „Safely interruptible agents“ kann hier eingelesen werden.

photo credit: Lego custom minifig_terminator via photopin (license)

Verpasse keinen Beitrag


Folge auf Facebook und Twitter. Auf UnglaublicheGeschichten.de sammle ich Unglaubliche, aber wahre Geschichten: Kuriose Schlagzeilen, interessante Geschichten und ungewöhnliche historische Ereignisse. Im Gegensatz zu Der Postillon, The Onion oder Die Tagespresse sind die in diesem Blog veröffentlichten Artikel aber keine Satire und keine Fake News – sondern echte Nachrichten und Geschichten. Sprich: Realsatire. Einzelne Artikel können Affiliate-Links enthalten. Finde hier mehr heraus.

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.

5 + fünfzehn =