Künstliche Un-Intelligenz

Es geht weiter mit Künstlicher Intelligenz, denn es gibt schon wieder etwas Neues:

Ein Leser dieses Blogs hat mich darauf aufmerksam gemacht, dass auch Microsoft mit KI experimentiert, obwohl Bill Gates mal davor gewarnt hat (Hier ist der Originalartikel).Wie sollte es auch anders sein? Schließlich kann es sich niemand leisten, bei dieser neuen Entwicklung zurückzustehen.

Schon mal mit einer KI gechattet? Oder getwittert? Das ist nämlich das Spielfeld von Microsofts KI. Sie chattet und twittert über alles Mögliche – und lernt von den Usern dazu.

Dazulernen klingt gut. Tatsächlich? Plötzlich hatte die KI gelernt, dass man am besten eine Mauer um Mexiko bauen sollte, um die Einwanderer abzuhalten. Und dass Donald Trump die einzige Hoffnung Amerikas ist. Beides hat sie dann vehement vertreten. Ups. Ist das noch Intelligenz?

Immerhin reichte die menschliche Intelligenz bei Microsoft soweit, die KI ganz schnell wieder abzuschalten. Über schnelles Dazulernen kann man sich nur freuen, wenn das Gelernte gut ist. Das Beste an der ganzen Angelegenheit ist, dass man diesem Ding den Stecker ziehen kann. Noch wenigstens.

 

Die größte Gefahr Künstlicher Intelligenz (16. März 2016)

Zum Schluss (bevor ich auf die Buchmesse fahre) noch ein Gedanke zur größten Gefahr Künstlicher Intelligenz (KI).

Wenn neue Entwicklungen nützlich sind und vor allem, wenn man damit Geld verdienen kann, breiten sie sich in alle denkbaren Bereiche aus. Das ist quasi ein Naturgesetz auf unserem Planeten. Anfangs wird es wenige KI-Lösungen geben, später immer mehr. Genauso, wie es mit Computern angefangen hat. Und genauso wie bei Computern wird man auch KI-Lösungen miteinander vernetzen.

Was bedeutet das? Es entsteht etwas völlig Neues, Großes. Bei Computern war es das Internet. Sie nutzen es selbst, sonst würden Sie diese Zeilen nicht lesen. Es bietet eine Unmenge an Vorteilen und hat unsere Welt vollkommen verändert. Es ist extrem schwierig zu kontrollieren, und bis auf wenige autoritäre Staaten scheitern alle daran.

KI ist viel größer als Computer. Sehr viel. Was wird dann erst durch die Vernetzung entstehen? Wenn man schon bei Einzellösungen die Kontrolle verliert?

Selbst eine einzelne Künstliche Intelligenz ist in der Lage schneller zu wachsen, als es ein Mensch könnte. Das hat uns AlphaGo gezeigt. Bei Einzellösungen kann man dieses Problem in den Griff bekommen, indem man die Software auf die Lösung einer speziellen Aufgabe beschränkt. Bei einer globalen Vernetzung halte ich es für unmöglich. Zumal dadurch etwas völlig Neues entsteht, das mehr ist als die Summe seiner Teile (siehe Internet).

Was das Problem erschwert, ist der Kontrollverlust, den man bei Einsatz von KI hat (siehe Beitrag von gestern). Wie wird sich das bei der Software-Entwicklung auswirken? Wie bei neuer KI? Software-Entwicklung und erst Recht die Entwicklung von KI ist eine komplizierte Geschichte, an der oft Hunderte hochbegabte Entwickler sitzen. Das ideale Einsatzgebiet, um sich dabei von KI unterstützen zu lassen. KI wird also helfen, KI zu entwickeln. Ups. Das wird spannend.

Ich möchte an dieser Stelle keinesfalls alles Schwarz malen. Aber wenn Leute wie Bill Gates oder Stephen Hawking sich Sorgen um dieses Thema machen, die man gewiss nicht als einfältige Technik-Hasser einstufen kann, scheint KI doch eine Sache zu sein, die man nicht zu leicht nehmen sollte. Bis zu einer ernsten Gefahr dauert es noch etwas. Vielleicht fallen einigen klugen Menschen ja Lösungen dazu ein. Und wenn nicht? Dann können wir ja eine KI bauen, die wir fragen, wie wir KI im Griff behalten können.

Die zweitgrößte Gefahr Künstlicher Intelligenz (KI) (15. März 2016)

Bisher wurde Software von Menschen entwickelt; der Softwarecode, der die Programme ausmacht, war bekannt. Das bedeutet: Es gab immer einen Menschen, der mit seinem Finger auf einen Abschnitt des Programmcodes zeigen und sagen konnte: “Dieser Programmteil ist für diesen Teil des Ergebnisses verantwortlich.” Zum Beispiel für die Datenanalyse, die zur Wetterprognose “Starkregen” geführt hat. Jetzt hat es aber nur ein bisschen geregnet, worauf die Wissenschaftler hingehen konnten und diesen Programmteil anpassen. Diese Ära ist mit KI vorbei!

Bei AlphaGo (unserem aktuellen Beispiel für KI) kann niemand auf ein Stück Programmcode zeigen, das für einen genialen (oder katastrophalen) Zug verantwortlich war. Man staunt “das war genial”, weiß aber nicht, warum. Und kann weder etwas daran ändern noch daraus lernen.

Das bedeutet:

  1. Kontrollverlust. Wenn man nicht weiß, warum ein Programm zu einem guten oder schlechten Ergebnis kam, hat man die Kontrolle darüber abgegeben. Am Ende sieht man achselzuckend zu, staunt oder erschrickt. Ohne Kontrolle wird man manipulierbar. Nicht schön. Vielleicht könnte man diese Gefahr durch Sicherheitsmechanismen eindämmen – wenn nicht die zweite Konsequenz wäre:
  2. Wissensverlust. Nehmen wir an, eine KI wird zum Meister für Wetterprognosen. Dann freuen wir uns selbstverständlich über gute Vorhersagen. Aber wer bezahlt dann noch Menschen dafür? Wenn es die Software doch besser kann? Wer investiert seine Lebenszeit in ein Studium zur Erstellung von Klimamodellen, wenn einen niemand danach fragen wird, weil die Software bessere Antworten hat?

AlphaGo hat es innerhalb eines halben Jahres geschafft, von Amateurniveau auf Weltmeisterniveau aufzusteigen. Und sie kann sich im gleichen Tempo weiterentwickeln. So schnell kann kein Mensch lernen. Das bedeutet, dass die Menschen in den Bereichen, in denen man KI einsetzt, immer weiter ins Hintertreffen geraten – und den Wettlauf überhaupt aufgeben, weil man eh keine Chance hat.

Wer sagt: “Jobverlust durch neue Erfindungen hat es schon immer gegeben”, sollte eines bedenken: Es geht hier nicht um anstrengende Routinetätigkeiten, für die Industrieroboter eingesetzt werden. Es geht um Wissenschaft, die die Menschheit voranbringt.

Die Konsequenzen:

Wir verlieren Know-how. Zusammen mit einem Verlust der Kontrolle ist das echt schmerzlich. Da sich diese Entwicklung ganz logisch aus wirtschaftlichen Zwängen und dem ständigen weltweiten Wettbewerb ergibt, wird es nicht einfach sein, dieser Gefahr auszuweichen.

Wie geht es weiter? (13. März 2016)

Weil die Sache wirklich so bedeutend ist, noch ein Beitrag zu AlphaGo und Künstlicher Intelligenz (KI).

Wie wird es weitergehen? In der nächsten Zeit wird es ruhiger werden, denn die Entwickler und Entscheider müssen sich sortieren. Neue Planungen brauchen Zeit. Aber jetzt, wo man weiß, dass KI so durchgreifend funktioniert, werden sich viele darauf stürzen. Institute und Forschungseinrichtungen werden eigene KI entwickeln. Wir werden erleben, dass Wettervorhersagen besser werden und genauso die Klimamodelle. Aller Wahrscheinlichkeit nach wird KI helfen, Lösungen für die Klimakatastrophe zu finden.Vielleicht sogar Lösungen, auf die Menschen gar nicht gekommen wären (wie beim komplexen Go-Spiel). Ob die Menschen solche Lösungen dann annehmen, ist wieder eine andere Sache.

Eine Menge Unternehmen werden KI einsetzen, woraus neue Produkte entstehen (bessere Medikamente, umweltfreundlichere Herstellungsprozesse, …)

Bis hierher ist das richtig gut. Aber wie bei allen Erfindungen, die es auf der Welt gibt, hat auch KI ihre Schattenseiten: Das Militär wird sich auf KI stürzen, um effektivere Strategien zu entwickeln. Dummerweise hat das Militär mehr Geld als die Forschungsinstitute. Vor allem das Militär in den USA, das sowieso schon Milliarden von Dollars in Forschung steckt, aber auch in China.

Das ist dann die Kehrseite der Medaille, die sich aber nicht mehr aufhalten lässt. Wir werden lernen müssen, mit beiden Seiten zu leben.

Heute beginnt eine neue Zeit! (12. März 2016)

Ja, ich meine diesen Satz ernst. Nein, es liegt nicht daran, dass ich jetzt mit einem Blog beginne. Den liest momentan außer mir sowieso noch niemand.

Warum beginnt eine neue Zeit? Weil AlphaGo Lee Sedol im Go besiegt hat.

Sie denken, ich spinne? Oder hebe ab? Dann lesen Sie mal weiter:

Go ist ein asiatisches Brettspiel. Auf den ersten Blick sind die Regeln trivial, aber im Endeffekt ist die Komplexität größer als beim Schach. Deshalb hatten Computer die Menschen beim Schach schon besiegt, beim Go aber noch nicht. Bisher.

Lee Sedol zählt als weltbester Go-Spieler, der sich auf einem Niveau befindet, das fast niemand erreichen kann.

AlphaGo ist eine Software von Google.

Das sind die Fakten. Was ist passiert und warum ist das so bedeutend? Fast niemand hat damit gerechnet, dass in unserer aktuellen Zeit ein Computer Go wirklich sehr gut beherrschen kann, denn Go bietet mehr Möglichkeiten, die Spielsteine zu platzieren, als es Atome im Universum gibt. Beim Schach hat man den Computer von IBM (er hieß “Deep Blue”) mit massenhaften Spielzügen von Schachpartien gefüttert, beim Go geht das in dieser Art nicht. AlphaGo hat eine Grundausstattung an Spielen vorgesetzt bekommen, mit denen die Software es auf Amateurniveau gebracht hat. Danach hat sie selbst weitergelernt – bis sie nach nur einem halben Jahr den Weltmeister besiegt hat. Dabei hat sie Spielzüge gemacht, die Experten als Fehler betrachtet haben. Anfangs. Jetzt sagen die Experten: “Solche Züge wären einem Menschen nie in den Sinn gekommen. Sie sind genial!”

Jetzt sind wir beim Besonderen: Eine Software lernt selbstständig, sie kommt weiter, als Menschen es ihr beibringen können, sie kommt auf Lösungen, die so genial sind, dass kein Mensch auf diese Idee gekommen wäre. Das ist in dieser Woche passiert. Im März 2016.

Go ist nur eine Spielerei. Und dass eine Software dafür sorgt, dass man Go jetzt anders spielen muss, als es die Meister seit Tausenden von Jahren tun, scheint nicht weiter tragisch. Aber es wird nicht beim Go bleiben. Und auch nicht bei Spielen. Ab dieser Woche wird es ständig mehr Bereiche geben, in denen eine Software, die selbstständig lernen kann, die Menschen überflügelt. Ob dabei Ergebnisse herauskommen, über die man sagt: “genial” oder “teuflisch”, steht auf einem anderen Blatt. Auf jeden Fall wird die Welt nicht mehr so sein, wie sie es einmal war. Diese Zukunft beginnt – jetzt!

Mehr darüber gibt es z. B. hier.

Sie gestatten?

Sie gestatten, dass ich mich vorstelle?

Mein Name ist Klaus Seibel. Ich bin Schriftsteller und schreibe Thriller und Science Fiction. Meine SF spielt aber nicht in ferner Zukunft am Rand des Universums, sondern hier auf unserer guten, alten Erde. Und bei der Zukunft geht es nur um wenige Jahre im Voraus. Also durchaus etwas, das wir erleben könnten.

Bei meinen Recherchen dafür begegnet mir so viel, über das ich staune oder erschrocken bin. Auf jeden Fall bin ich oft überrascht, an was tatsächlich alles gearbeitet wird. Das, was viele als Science Fiction ansehen, ist uns schon näher, als wir denken. Sehr viel näher.

Darüber möchte ich in lockerer Folge schreiben. Ganz zwanglos. Es wird bestimmt kein Blog, der Sie jeden Tag mit neuen Einträgen überschüttet. Aber vielleicht ist ja doch das eine oder andere dabei, das Sie interessiert. Das würde mich freuen.

Falls Sie mehr über mich oder meine Bücher erfahren wollen, besuchen Sie mich doch auf meiner Homepage: www.kseibel.de