Bei einer Vorführung zum 50. Jahrestag von „2001: A Space Odyssey“ ertappte ich mich selbst, einen Mathematiker und Informatiker, dessen Forschung Arbeiten im Zusammenhang mit künstlicher Intelligenz umfasst, dabei, wie ich die Zukunftsvision der Geschichte mit der heutigen Welt verglich.
Der Film entstand in Zusammenarbeit mit dem Science-Fiction-Autor Arthur C. Clarke und dem Filmregisseur Stanley Kubrick, inspiriert von Clarkes Roman „Childhood’s End“ und seiner weniger bekannten Kurzgeschichte „The Sentinel“. Der Film ist ein beeindruckendes Werk der spekulativen Fiktion, das – mal hoffnungsvoll, mal warnend – eine Zukunft mit außerirdischen Kontakten, interplanetaren Reisen, bewussten Maschinen und sogar dem nächsten großen Evolutionssprung der Menschheit beschreibt.
Die offensichtlichste Art und Weise, in der 2018 hinter der Vision von „2001“ zurückbleibt, ist die Raumfahrt. Noch besuchen die Menschen nicht routinemäßig Raumstationen, machen keine unscheinbaren Besuche auf einer der zahlreichen Mondbasen und reisen auch nicht zu anderen Planeten. Aber Kubrick und Clarke treffen ins Schwarze, wenn sie sich die Möglichkeiten, Probleme und Herausforderungen der Zukunft der künstlichen Intelligenz ausmalen.
Was können Computer?
Ein Hauptdrama des Films kann in vielerlei Hinsicht als ein Kampf auf Leben und Tod zwischen Mensch und Computer betrachtet werden. Die künstliche Intelligenz von „2001“ ist verkörpert in HAL, der allwissenden Computerpräsenz, dem Gehirn des Raumschiffs Discovery One – und vielleicht der berühmtesten Figur des Films. HAL markiert den Gipfel der rechnerischen Leistung: ein selbstbewusstes, scheinbar unfehlbares Gerät und eine allgegenwärtige Präsenz im Schiff, immer zuhörend, immer beobachtend.
HAL ist nicht nur ein technologischer Assistent der Crew, sondern – in den Worten des Missionskommandanten Dave Bowman – das sechste Crewmitglied. Die Menschen interagieren mit HAL, indem sie mit ihm sprechen, und er antwortet mit einer gemessenen männlichen Stimme, irgendwo zwischen strengem, aber nachsichtigem Elternteil und wohlmeinender Krankenschwester. HAL ist Alexa und Siri – nur viel besser. HAL hat die komplette Kontrolle über das Schiff und ist, wie sich herausstellt, auch das einzige Crewmitglied, das das wahre Ziel der Mission kennt.
Ethik in der Maschine
Die Spannung des dritten Akts des Films dreht sich darum, dass Bowman und sein Crewkollege Frank Poole immer deutlicher merken, dass HAL eine Fehlfunktion hat, und dass HAL von diesem Verdacht erfährt. Dave und Frank wollen dem versagenden Computer den Stecker ziehen, während die selbstbewusste HAL leben will. Alle wollen die Mission zu Ende bringen.
Das Schachspiel auf Leben und Tod zwischen den Menschen und HAL bietet Vorboten einiger heutiger Fragen über die Verbreitung und den Einsatz von künstlicher Intelligenz im täglichen Leben der Menschen.
Zuallererst stellt sich die Frage, wie viel Kontrolle die Menschen an künstlich intelligente Maschinen abtreten sollten, unabhängig davon, wie „intelligent“ die Systeme sein mögen. Die Kontrolle von HAL über Discovery ist wie eine Deep-Space-Version des vernetzten Hauses der Zukunft oder des fahrerlosen Autos. Bürger, Politiker, Experten und Forscher beschäftigen sich immer noch mit der Frage, inwieweit die Automatisierung den Menschen aus dem Verkehr ziehen könnte – oder sollte. Einige der Überlegungen beinhalten relativ einfache Fragen über die Zuverlässigkeit von Maschinen, aber andere Themen sind subtiler.
Die Aktionen einer Rechenmaschine werden durch Entscheidungen diktiert, die von Menschen in Algorithmen kodiert werden, die die Geräte steuern. Algorithmen haben in der Regel ein quantifizierbares Ziel, auf das jede ihrer Aktionen hinführen soll – wie das Gewinnen einer Partie Dame, Schach oder Go. Genauso wie ein KI-System die Positionen der Spielfiguren auf einem Brett analysieren würde, kann es auch die Effizienz eines Lagers oder den Energieverbrauch eines Rechenzentrums messen.
Aber was passiert, wenn auf dem Weg zum Ziel ein moralisches oder ethisches Dilemma auftaucht? Für den selbstbewussten HAL gewinnt das Erfüllen der Mission – und das Überleben – gemessen am Leben der Besatzung. Was ist mit einem fahrerlosen Auto? Besteht die Mission eines selbstfahrenden Autos zum Beispiel darin, einen Passagier so schnell wie möglich von einem Ort zum anderen zu bringen – oder darin, das Töten von Fußgängern zu vermeiden? Wenn jemand vor ein autonomes Fahrzeug tritt, geraten diese Ziele in Konflikt. Das mag sich wie eine offensichtliche „Wahl“ anfühlen, die man wegprogrammieren kann, aber was ist, wenn das Auto zwischen zwei verschiedenen Szenarien „wählen“ muss, von denen jedes den Tod eines Menschen zur Folge hätte?
Unter Überwachung
In einer klassischen Szene gehen Dave und Frank in einen Teil der Raumstation, von dem sie glauben, dass HAL sie nicht hören kann, um ihre Zweifel an HALs Funktionieren und seiner Fähigkeit, das Schiff zu kontrollieren und die Mission zu leiten, zu diskutieren. Sie bringen die Idee zur Sprache, ihn abzuschalten. Sie ahnen nicht, dass HALs Kameras sie sehen können: Der Computer liest ihnen durch das Gondelfenster von den Lippen ab und erfährt von ihren Plänen.
In der modernen Welt spielt sich eine Version dieser Szene jeden Tag ab. Die meisten von uns werden praktisch ununterbrochen überwacht, sei es durch unsere fast immer eingeschalteten Telefone oder durch die Überwachung der Aktivitäten von Unternehmen und Regierungen in der realen Welt und im Internet. Die Grenze zwischen privat und öffentlich wurde und wird immer unschärfer.
Die Beziehungen der Charaktere im Film haben mich dazu gebracht, viel darüber nachzudenken, wie Menschen und Maschinen koexistieren oder sich sogar gemeinsam entwickeln könnten. Über weite Strecken des Films reden sogar die Menschen fade miteinander, ohne viel Tonfall oder Emotionen – so wie sie mit einer Maschine reden könnten, oder wie eine Maschine mit ihnen reden könnte. Die berühmte Todesszene von HAL – in der Dave methodisch seine logischen Verbindungen kappt – hat mich zu der Frage gebracht, ob intelligenten Maschinen jemals etwas Gleichwertiges wie menschliche Rechte zugestanden werden wird.
Clarke hielt es für durchaus möglich, dass die Zeit des Menschen auf der Erde nur eine „kurze Raststätte“ sei und dass die Reifung und Evolution der Spezies die Menschen notwendigerweise weit über diesen Planeten hinausführen würde. „2001“ endet optimistisch, indem er einen Menschen durch das „Stargate“ springen lässt, um die Wiedergeburt der Rasse zu markieren. Um dies in der Realität zu erreichen, müssen die Menschen herausfinden, wie sie die Maschinen und Geräte, die sie bauen, am besten nutzen können, und sicherstellen, dass wir uns nicht von diesen Maschinen kontrollieren lassen.