Stephen Hawking warnte uns vor den Fortschritten bei künstlicher Intelligenz, indem Sie nicht nur Gutes für die Menschheit bereithält, sondern auch Schlechtes. Nun scheint es, dass Google die Grenzen künstlicher Intelligenz (KI) übertreten hat.
Es wurde eine ebenso verstörende wie unumstößliche Entdeckung gemacht; Stephen Hawking warnte uns vor den Fortschritten bei künstlicher Intelligenz, indem Sie nicht nur Gutes für die Menschheit bereithält, sondern auch Schlechtes. Nun scheint es, dass Google die Grenzen künstlicher Intelligenz übertreten hat.
Der Technikgigant hat DeepMind erworben, ein Unternehmen, das mit Hilfe von “Spieltheorieprinzipen” untersucht, wie künstliche Intelligenz innerhalb eines sozialen Umfeldes interagiert. Das Maschinenlernsystem hat sich nun selbst beigebracht, mit Zorn zu reagieren.
Die Maschine von DeepMind war die einzige, die den unangefochteten Titel einnahm, menschliche Go-Spieler zu besiegen. Kürzlich haben Wissenschaftler beschlossen, sie für die Spieltheorie zu benutzen und zu erforschen – ein Teilgebiet der Psychologie, bei dem Experten das Verhalten von Menschen in kooperativen und kompetitiven Umgebungen studieren. Die Experten entdeckten, dass wenn die KI-Maschine bei einem Spiel verlor, sie auf eine Vorgehensweise umschaltete, bei der sie das Spiel auf eine sehr wettbewerbsorientierte Weise spielte, um entweder zu gewinnnen, oder ihrem Gegener möglichst viel zu schaden.
Bildquelle: “Google Image” – “DeepMind”-Gründer Demis Hassabis darüber, wie künstliche Intelligenz die Zukunft gestalten wird.
Um sie weiter zu untersuchen, erfanden die Wissenschaftler ein einfaches Spiel, bei dem Äpfel gesammelt werden müssen. Die Regeln waren einfach: Die Maschine, die die meisten Äpfel sammelte, gewinnt. Darüber hinaus waren die Experten nach ein paar Runden erstaunt zu entdecken, dass solange beide KI-Maschinen genug Äpfel hatten, die Dinge in Ordnung waren. Sobald jedoch nur noch wenige übrig waren, versuchte die KI-Maschinen zu gewinnen, indem sie alle Äpfel stahlen.
Die Maschinen wurden erst aggressiv, wenn Google leistungsfähigere Systeme einsetzte – je größer die Zahl der Computer, die die Algorithmen der KI-Maschinen erarbeiten, desto aggressiver wurde die Logik, um das Spiel zu gewinnen.
Laut Joel Leibo, einem der an dem Projekt beteiligten Wissenschaftler, “demonstriert diese Version der künstlichen Intelligenz dass sich einige wenige Elemente menschenähnlichen Verhaltens als Ziel des Umfeldes und des Verstehens herausstellen. Beim Lernen treten in ziemlich vielen Fällen weniger feindliche Strategien treten auf, wenn eine geringere Wahrscheinlichkeit einer unverschämten Handlungsweise vorherrscht. Die triebhafte Gier demonstriert den Drang, einen Konkurrenten aus dem Rennen zu werfen und selbst all die Äpfel einzusammeln.”
Als die Experten jedoch ein anderes Spiel einführten, zeigte die künstliche Intelligenz von DeepMind eine sozialere Reaktion auf seine Gegenüber, indem sie eine KI-Maschine zu erkennen gaben, die nicht nur feindselig ist, sondern eine, die sich ihrer Umgebung anpassen und die beste Strategie anwenden kann, um ihr Überleben sicherzustellen.
Bildquelle: “Google Image” – Ein Bildschirmfoto von “DeepMinds” Künstliche-Intelligenz-Maschine gegen Lee Sedol.
Auf vielfältige Weise reflektiert dies die reale Welt. Laut den Experten sind Schimpansen und Bonobos die beiden Spezies, die mit uns menschenähnliche Charakterzüge teilen. Jedoch sind Bonobos gelassen und lösen viele ihrer Angelegenheiten, indem sie miteinander Geschlechtsverkehr haben. Hingegen sind die Schimpansen andererseits aggressivere und rücksichtslosere Kreaturen, die bekannt dafür sind, sich gegenseitig zu töten und Kannibalismus zu praktizieren, und viele der Top-Anthropologen stimmen darin überein, dass sich beide Spezies an ihre Umgebung angepasst haben. Diese Vorgehensweise ist auffallend ähnlich mit der künstlichen Intelligenz von DeepMind, indem sie bei verschiedenen Spielen verschiedene Vorgehensweisen wählten, um zu überleben.
Weiterhin erklärt Google, die wichtigste Lehre, die bei der Forschung gewonnen wurde, sei, dass künstliche Intelligenz ihre Strategie aus der Umgebung ableitet. Dies deutet darauf hin, dass wenn künstliche Intelligenz angemessen angeleitet wird, wir in der Lage wären, ihre Entscheidungsprozesse zu kontrollieren, und sie somit in die Lage zu versetzen, mit uns friedlich zu koexistieren. Wenn sie jedoch einem komplett verschiedenen Umfeld ausgesetzt wird – so wie etwa dem Kapitalismus – in welchem sie zu böswilligen und ausbeuterischen Taktiken motiviert wird, wird eine feindlichere Vorgehensweise eingesetzt.
Letzten Endes liegt es gänzlich an uns, ob wir uns dazu entscheiden, uns selbst zum Besseren zu verändern oder weiterhin die künstliche Intelligenz in rigorose, kriegsähnliche Bedingungen hineintreiben, wodurch sie lernt, uns zu manipulieren und zu vernichten.
Verweise:
- http://themindunleashed.com/2017/02/googles-artificial-intelligence-learns-highly-aggressive-behavior-concept-betrayal.html
- http://www.wired.co.uk/article/artificial-intelligence-social-impact-deepmind
Übersetzt aus dem Englischen von http://anonhq.com/googles-artificial-intelligence-learns-highly-aggressive-behaviour-and-concept-of-betrayal/
Oh oh ,nein nicht gut !
Nein nicht gut. Will hoffen das die reiche elite wie rotschild und anhang das nicht schon nutzt. Wenn noch nicht, dann sehr bald, zu unserem nachteil mit sicherheit.