Digital

Apples KI-Chef verrät, wie das iPhone smart wird, ohne die Nutzer auszuspionieren

Eines der größten Missverständnisse über Technik basiert womöglich auf einer Entschuldigung. “Es tut mir leid, Dave, aber das kann ich nicht tun”, sprach der Computer HAL 9000 in Stanley Kubricks 1968 veröffentlichen Film “2001: Odyssee im Weltraum”, als er sich den Befehlen der Menschen widersetzte, denen er eigentlich dienen soll. Die Maschine wird zum Mörder im Weltall. Eine gruselige Vorstellung, die das Image der Künstlichen Intelligenz noch fünf Jahrzehnte später prägt.

Kaum eine Technologie löst eine solche Ambivalenz aus. Sie macht Dinge möglich, von denen man vor wenigen Jahren noch nicht zu träumen wagte. Sie lässt Autos eigenständig durch Straßen fahren und kann 100 Jahre alten Fotos neues Leben einhauchen. Manche sehen in Künstlicher Intelligenz jedoch eine der größten Bedrohungen der Zukunft.

Dabei ist sie längst in beinahe alle Bereiche unseres Alltags vorgedrungen. Nehmen wir mit dem Smartphone nachts ein Foto auf, komponiert eine KI in Sekundenbruchteilen aus Einzelbildern ein ansehnliches Foto. Rufen wir Siri oder Alexa etwas zu, werden unsere Sätze in Echtzeit in Lautfetzen zerteilt, analysiert, verarbeitet – und mit etwas Glück verstanden.

John Giannandrea: “Ich mag den Begriff KI nicht”

Wesentlich vorangetrieben wurde diese Entwicklung von John Giannandrea. Der britische Informatiker war Technischer Direktor (CTO) der von ihm mitbegründeten Spracherkennungsfirma Tellme Networks, der Webbrowser-Abteilung bei Netscape sowie Senior Engineer bei General Magic. 2005 gründete er das Unternehmen Metaweb, welches 2010 von Google aufgekauft wurde. Dort leitete Giannandrea die Abteilungen für Suche und Künstliche Intelligenz, gewissermaßen das Herzstück des Konzerns. Nach knapp acht Jahren bei Google wechselte er Anfang 2018 zu Apple, kurz darauf wurde er zum Senior Vice President für die Bereiche Maschinelles Lernen und Strategie für Künstliche Intelligenz befördert. Dort entwickelt er eine einheitliche Strategie für Künstliche Intelligenzen und Machine Learning über alle Apple-Produkte und -Dienste hinweg..

Auf die Vorurteile gegenüber Künstlicher Intelligenz angesprochen entgegnet Giannandrea im exklusiven stern-Gespräch: “Ich mag den Begriff Künstliche Intelligenz ehrlich gesagt nicht. Er ist schlecht definiert und bezieht sich auf alles, von der Idee einer allgemeinen Künstlichen Intelligenz, welche die menschliche durch eine Art Superintelligenz ersetzt, bis hin zu sehr banalen Dingen, die wir schon seit Jahrzehnten kennen.” Er bevorzuge stattdessen den Begriff “maschinelles Lernen”. “Denn genau darum geht es: Computern beizubringen, eine ganz bestimmte Sache zu tun, etwa Handschriften zu erkennen.”

Was Apple anders macht als Google

Das Beispiel wählt John Giannandrea, der in Cupertino von allen JG genannt wird, nicht zufällig. Im vergangenen Herbst führte Apple auf dem iPad eine Handschrifterkennung ein. Damit ist das Tablet in der Lage, mit dem Apple Pencil angefertigte, handschriftliche Notizen eigenständig in digitalen Text umzuwandeln.

Dafür musste die Maschine vereinfacht gesagt lernen, die Striche der Handschrift zu erkennen, noch während man schreibt. Um ihr das beizubringen, ließ der Konzern Menschen auf der ganzen Welt Dinge schreiben – mal schnell, mal langsam, mal schräg. Ein aufwendiger, aber erfolgsversprechenderer Ansatz als lediglich vorhandene Handschriften zu scannen.

Doch erst in Kombination mit der Syntax einer Sprache kann das iPad vorhersagen, welcher Strich oder welches Zeichen mit hoher Wahrscheinlichkeit als nächstes folgt. Die dafür nötige riesige Menge an statistischen Berechnungen findet auf dem Tablet selbst statt und nicht in einem Rechenzentrum. Alle Daten bleiben auf dem Gerät – auch das ist ein eigener Ansatz.

“Wir bauen zunehmend Funktionen in Apple-Produkte ein, die maschinelles Lernen erfordern. Und ich denke, wir machen das anders als unsere Mitbewerber”, so Giannandrea. “Das liegt zum Teil an unserer verschränkten Integration von Hardware, Software und Diensten. Aber auch unserem Fokus auf Datenschutz. Ich denke, das ist die eine Sache, die wir grundlegend anders machen.”

Die Macht der Daten

Der Apple-Manager spricht es nicht explizit aus, aber es ist klar, von wem er sich abgrenzen möchte: unter anderem seinem ehemaligen Arbeitgeber Google. “Künstliche Intelligenz ist eine der wichtigsten Sachen, an denen die Menschheit arbeitet. Tiefgreifender als Elektrizität oder das Feuer”, sagte Sundar Pichai, Chef der Google-Mutter Alphabet, bereits Anfang 2018. Sein Konzern treibt die Entwicklung an vielen Fronten voran: Mit der Firma Waymo will er das autonome Fahren salonfähig machen, das Tochterunternehmen Deep Mind entwickelt unter anderem komplexe Sprachmodelle.

Google ist in vielen dieser Bereiche führend, steht aber auch in der Kritik, weil es wie kaum ein zweiter Konzern systematisch Nutzerdaten erhebt und auswertet. “Google verfügt mit den vielen einzelnen eng miteinander verbundenen Diensten über eine riesige Überwachungsmaschinerie”, prangerte Johannes Caspar, Hamburgs Beauftragter für Datenschutz, schon vor einigen Jahren im stern-Gespräch an (lesen Sie hier das gesamte Gespräch). Auch bei Facebook und Amazon ist das Sammeln von persönlichen Informationen ein zentraler Baustein. Tausche Daten gegen Bequemlichkeit – das ist der unausgesprochene Deal im Netz.

“Das ist technisch einfach falsch”

Von diesem Prinzip distanziert sich Apple bei jeder sich bietenden Möglichkeit. Unternehmens-Chef Tim Cook bezeichnet Privatsphäre gar als “grundlegendes Menschenrecht”. Ein ehrenwerter Angang, der jedoch dafür sorgt, dass Apples Dienste nicht so fortschrittlich sind wie jene der Konkurrenz, behaupten Kritikerinnen und Kritiker. Ein Beispiel dafür sei Apples Sprachassistent Siri, der den Mitbewerbern Alexa (Amazon) und Assistant (Google) nicht das Wasser reichen könne.

Dem widerspricht Giannandrea entschieden: “Es gibt da draußen die Annahme, dass maschinelles Lernen jede Menge Daten benötigt und das im Widerspruch zu Apples Datenschutzstandards steht. Ich halte das für grundlegend falsch. Ich denke, wir haben bewiesen, dass man nützliche Funktionen bauen kann.” So sei etwa die Gesichtsentsperrung in modernen iPhones entwickelt wurden, ohne private Nutzerdaten anzuzapfen.

Es gebe viele Möglichkeiten, Daten zu erheben und gleichzeitig die Privatsphäre zu schützen, führt Giannandrea weiter aus. “Es gibt fortgeschrittene Techniken wie differential privacy und federated learning, bei dem man aus dem Verhalten des Benutzers mit seiner Erlaubnis lernen kann, ohne irgendwelche seiner Daten preiszugeben. Ich glaube deshalb, dass die Annahme, KI setze das Sammeln von Daten an einem zentralen Ort in einem Datenzentrum voraus, einfach technisch falsch ist.”

“Wir haben noch eine Menge zu tun”

Doch wer Apples Geräte und Dienste länger nutzt, weiß: Nicht immer funktionieren sie so, wie man es erwartet. Eine Baustelle sind – zumindest hierzulande – die Wortvorschläge. “Wenn du auf dem iPhone Text mithilfe der Tastatur eingibst, antizipiert Siri das Wort, das du aller Voraussicht nach als nächstes eingeben wirst”, wirbt Apple auf seiner Homepage. Im Alltag führt das mitunter zu kuriosen Ergebnissen: Tippt der Autor dieser Zeilen “Mit freundlichen Grüßen Chr” in sein Telefon, sollte Siri nach zehn Jahren eigentlich wissen, dass “Christoph” der passende Vorschlag wäre. Doch was wird stattdessen angeboten? “Christian”.

Darauf angesprochen gibt Giannandrea unumwunden zu: “Wir haben noch eine Menge zu tun.” Doch er zeichnet einen Silberstreif am Horizont: “Wenn wir dieses Gespräch in ein paar Jahren führen, werden Sie von den Fortschritten bei der Tastaturvorhersage beeindruckt sein. Ich erwarte, dass wir maschinelles Lernen in den kommenden Versionen noch deutlich weiter verbessern werden.” Zukünftig werde dort nicht nur der – hoffentlich korrekte – Name auftauchen, sondern etwa auch Restaurants, zu denen man sich zuvor mit der Partnerin ausgetauscht hat. “All diese Informationen befinden sich heute bereits auf Ihrem iPhone. Wir müssen sie nur besser nutzen. Craigs Teams [Craig Federighi, Software-Chef bei Apple, Anm. d. Red.] und meine Teams arbeiten hart daran, das Erlebnis besser zu machen.”

Dass es sich bei diesem Verhalten um ein rein deutsches Phänomen handelt, schließt Giannandrea aus: ” Nein, nein, wir unternehmen große Anstrengungen, um sicherzustellen, dass wir alle Sprachen gleichwertig bedienen. Wir investieren da wirklich eine Menge Geld. Aber wir sind noch nicht so weit, da stimme ich Ihnen vollkommen zu. Sie werden jedoch sehen, dass es in den nächsten Jahren dramatisch besser werden wird.”

Apples ungewohnte Zurückhaltung

Und noch etwas unterscheidet Apple in Sachen Künstlicher Intelligenz von den Nachbarn im Silicon Valley: Während Google auf den Bühnen der Entwicklerkonferenzen detailliert erklärt, wie die Technologie dieses und jenes Feature ermöglicht, gibt sich Apple, sonst um keinen Superlativ verlegen, vergleichsweise zurückhaltend.

Das mag einerseits an der Vergangenheit liegen. Obwohl Apple 2011 mit Siri im iPhone 4S Sprachassistenten in der breiten Masse populär machte, genoss der Konzern lange nicht den besten Ruf im Bereich der Künstlichen Intelligenz. Das lag vor allem an der eigenen Geheimniskrämerei: Viele Jahre lang erfuhr man praktisch nur aus Patentanträgen, an was Apples KI-Abteilung arbeitete. Doch Wissenschaftler und Forscherinnen wollen ihre Ergebnisse publizieren und diskutieren. Erst 2016 lenkte Apple ein und gestattete seinen Mitarbeitenden in diesem Bereich, ihre Ergebnisse zu veröffentlichen. Es war ein nötiger Schritt, um im Kampf um klügsten Köpfe der Branche mithalten zu können.

Doch es gibt auch ganz pragmatische Gründe, warum Tim Cook nicht wie andere CEOs über die Bühne stolziert und mit KI-Buzzwords um sich wirft, erklärt Giannandrea. “Den Endnutzer eines Apple-Produktes interessiert es nicht, wie eine Funktion implementiert wurde, sondern wie gut sie funktioniert. Die beste Technologie ist jene, die verschwindet. Die niemand verstehen muss. Der Fokus auf Technologie bloß um der Technologie willen ist nichts, was uns interessiert.”

Die Welt neu erleben lernen

Einer der Bereiche, die enorm von maschinellem Lernen profitieren, sind Bedienungshilfen zur Sicherstellung der Barrierefreiheit. “Die wahrscheinlich offensichtlichste und anschaulichste Funktion ist die Sprachsteuerung, mit der Sie das gesamte Benutzererlebnis von iOS und macOS über Ihre Stimme steuern können”, erklärt Giannandrea.

Menschen mit eingeschränktem Hörvermögen profitieren seit vergangenem Herbst etwa von einer in iPhones integrierten Geräuscherkennung. Dabei achtet die Künstliche Intelligenz auf zuvor festgelegte Geräusche – etwa das Schreien eines Babys, das Ertönen einer Autohupe oder Türklopfen – und schickt im Fall der Fälle eine Benachrichtigung auf das Telefon. “Für hörgeschädigte Personen ist das ein echter Game Changer”, schwärmt Apples KI-Chef. “Wenn wir darüber nachdenken, dass maschinelles Lernen Computern ermöglicht, die Welt besser zu verstehen, dann ist es nicht überraschend, dass solche Funktionen auf einem Smartphone helfen, die Welt für Menschen mit Beeinträchtigungen verständlicher zu machen.”

Maschinelles Lernen kann aber auch in der Behandlung von Alltagskrankheiten helfen, wie die digitale, durch mehrere klinische Studien geprüfte Therapie-App Kaia zeigt. Sie wurde zur Behandlung chronischer Erkrankungen behandelt, unter anderem Rückenschmerzen, Arthrose und COPD. In der App gibt es Anleitungen für Entspannungseinheiten und physiotherapeutische Übungen, mittels der Kamera analysiert ein KI-unterstützter Assistent die Bewegungen und gibt Feedback – so wie es ein Physiotherapeut oder eine Physiotherapeutin tun würde.

“Wir nutzen maschinelles Lernen, um dem Benutzer über die Smartphone-Kamera in Echtzeit Rückmeldungen zu seiner Übungsform zu geben”, sagt Max Strobel, Vice President of Engineering bei Kaia. “Wir haben vor vier Jahren mit der Arbeit daran begonnen, doch damals war es einfach nicht möglich, solch komplexe Modelle auf mobilen Geräten auszuführen”. Mittlerweile bietet Apple eine spezielle Schnittstelle (Core ML), mit der externe Entwickler auf die neuronale Recheneinheit – quasi das Gehirn – zugreifen können. Für Strobel ist das der Auftakt einer weitreichenden Veränderung. “Es ist ziemlich aufregend, was für eine Rechenleistung auf den neuesten iPhone- und iPad-Modellen mittlerweile verfügbar ist. Die Steigerungsrate von Jahr zu Jahr ist beeindruckend. Das ermöglicht uns, viel anspruchsvollere Modelle auszuführen, und wir sind gespannt, welche Benutzererfahrungen wir in den nächsten fünf Jahren darauf aufbauen können.”

Sollte sich die technische Entwicklung wie in den vergangenen Jahren fortsetzen, erwartet Strobel zwei Trends: “Künstliche Intelligenz und Maschinelles Lernen haben das Potenzial, die Interaktion zwischen Nutzern und Apps zu erhöhen. Denn durch die Integration von KI in Apps rückt man im Wesentlichen die Entscheidungsfähigkeit näher an die Nutzer heran und ermöglicht es Anwendungen, direkter auf Nutzereingaben zu reagieren. Ich sehe auch ein großes Potenzial darin, dass KI den Zugang demokratisieren und die Kosten senken kann. Das fundamentale ökonomische Prinzip, das Maschinelles Lernen verändert, ist, dass nun plötzlich Vorhersagen und Entscheidungsfindung – für spezifische, wohldefinierte Aufgaben – nahezu Nullkosten haben und skalierbar sind.” Nun erhalte jedermann Zugang zu Technologien, die “vorher teuer und kompliziert in großem Maßstab umzusetzen waren.”

Keine Angst vor Fälschungen

Der Einsatz Künstlicher Intelligenz ist aber nicht nur Chance, sondern bietet auch Missbrauchspotenzial. Im vergangenen Jahr führte der Softwarekonzern Adobe etwa eine neue Funktion in seiner Profi-Software Photoshop ein, mit der man den blauen Himmel in einem Foto mit einem Fingertipp gegen einen romantischen Sonnenuntergang austauschen kann. Das ist technisch spektakulär, macht Manipulation aber leichter als je zuvor.

“Die Sorge dreht sich darum, was echt ist und was durch maschinelles Lernen erstellt wurde. Ich erinnere mich noch, als vor vier oder fünf Jahren die Verwendung von computergestützter Fotografie in der Smartphone-Kamera umstritten war. Fotografen, die sonst mit Mittelformat- oder SLR-Kameras arbeiteten, kritisierten Porträtaufnahmen und Weißabgleich-Korrekturen mittels maschinellem Lernen. Und doch haben sich die Leute sehr schnell an die Tatsache gewöhnt, dass ihr Smartphone großartige Fotos machen kann.”

“Es gibt die interessante ethische Frage darüber, was zu viel Manipulation ist. Aber wir haben dieses Problem in unserer Gesellschaft seit vielen Jahrzehnten. Es gab bereits gephotoshoppte Bilder in der Presse”, fährt Giannandrea fort. “Womöglich brauchen wir eine Art Bestätigung, dass etwas echt ist und nicht manipuliert wurde.” Seiner Ansicht nach sind jene leistungsfähigen Systeme, die in der Lage sind, Fälschungen zu erstellen, zugleich die Lösung des Problems. “Es gibt eine Menge Artefakte und kleine Details, an denen man erkennen kann, wenn Bilder maschinell erzeugt wurden. Wenn man sich heute einige Beispielvideos von Politikern ansieht, die künstlich generiert wurden, sind sie ziemlich offensichtlich gefälscht.”

“Europa ist an vorderster Front”

Natürlich gibt es strittige, womöglich gefährliche Entwicklungen im Bereich der Künstlichen Intelligenzen. Unternehmen wie Clearview oder Palantir demonstrieren, dass die systematische, computergestützte Auswertung von allen verfügbaren Daten unsere Privatsphäre aushöhlt. In China sind hunderte von Millionen Kameras zu einer Art allsehenden Auge miteinander verbunden. Autonome Kampfdrohnen könnten eine Phase der vollautomatischen Kriegsführung einleiten.

Doch Giannandrea sieht die Welt insgesamt auf einem guten Weg, allen voran Europa. “Wir sind im Dialog mit der Europäischen Kommission und europäischen Regierungen. Wir denken, dass Europa an vorderster Front versucht, die Regeln für die Zukunft des maschinellen Lernens und der KI zu definieren. Wir sind sehr optimistisch, dass diese Funktionen für die Nutzer großartig sind, aber wir denken auch, dass sie nicht ohne Risiken kommen. Deshalb freuen wir uns, dass die politischen Entscheidungsträger tatsächlich darauf achten, dass wir nicht einfach in die Zukunft stolpern, ohne über die Auswirkungen dieser Technologie für die User nachzudenken.”

Die eingangs erwähnte Entschuldigung von HAL 9000 ist übrigens längst Teil der Popkultur. Der Satz prangt auf T-Shirts, Tassen, Postern. Sogar Siri kennt den Spruch, der der 43 Jahre vor ihrer, nunja, Geburt gesagt wurde. Fragt man Apples Sprachassistentin, wo denn HAL sei, erhält man folgende Antwort: “HAL hat leider einige schlechte Entscheidungen getroffen. Aber zumindest konnte er singen.”

QUELLE

Related Articles

Leave a Reply

Your email address will not be published. Required fields are marked *

Back to top button