News

15 Oct 2019

"Die Ablehnung von AI wird viel zu wenig diskutiert."

Tim Schorno

Bevor Bruno Kramm Mitglied der Piratenpartei wurde, hat er zusammen mit seinem Vater über die Einflüsse der Spieltheorie auf KI-Forschung gebrütet und Science-Fiction-Bücher verschlungen. Ein Interview mit dem Mitbegründer des Think Tanks digitalgr.id, der sich mit den sozialen und kulturellen Auswirkungen von Machine Learning, KI und digitaler Transformation auseinandersetzt.

Erinnern Sie sich an Ihren ersten Kontakt mit AI?

Mein erster Kontakt mit AI war in meiner Kindheit. Zugegebenermaßen auf sehr romantische Art, in Form von Science Fiction Autoren wie Stanislaw Lem oder Isaac Asimovs Robotergesetzen und nicht zu vergessen, der immense Eindruck, den HAL in 2001 [ein Supercomputer aus dem Film "2001: A Space Odyssey"] auf mich machte. Mein erster Computer war ein CBM 3016, den mein Vater, ein renommierter Mathematikprofessor aus der Universität mitgebracht hatte, als ich 13 Jahre alt war. 

Er beschäftigte sich viel mit Spiel- und Chaostheorie, die ja einen maßgeblichen Einfluss auf die frühe AI-Forschung hatte und er hat mir das auch sehr eindrucksvoll vermittelt. Ich hatte dann seine komplette Ringvorlesung zur Chaostheorie und ihren Einfluss auf die Spieltheorie besucht. 

Und als Musiker?

Gerade als elektronischer Musiker habe ich mir dann bereits früh die Google Technologie TensorFlow angesehen und die interessanten Möglichkeiten künstlicher Intelligenz für Musikkomposition und Klangsyntheseformen wie z.B. die NSynth-Algorithmen entdeckt.

Welches sind die größten Herausforderungen in Bezug auf KI?

Hier stehen sich häufig Wirtschaft und Gesellschaft diametral entgegen. KI sollte per se ein Common Good sein, denn gerade Machine Learning ist eine Grundvoraussetzung der Künstlichen Intelligenz.

"Die Wirtschaft reduziert Daten auf einen Rohstoff, den sie im Eigeninteresse auswertet"

KI ist auf unsere Daten angewiesen, um einen von uns Menschen gewollten Lernprozess erfolgreich nach unserem ethischen Verständnis zu integrieren.

Die Wirtschaft reduziert Daten auf einen Rohstoff, den sie im Eigeninteresse auswertet, ganz nach dem althergebrachten Paradigma der produktiven Erzeugung. Allerdings widerspricht dies nicht nur der elementaren Transparenz und Nachvollziehbarkeit, sondern auch den Urheberrechten an Daten und dem Wunsch nach Schutz der Privatsphäre.

Gerade in Europa hat die DSGVO hier einige neue Barrieren definiert.

Richtig. KI in den Händen weniger wirtschaftlicher Organisationen zu verleitet zu Missbrauch. Kontrolle braucht Transparenz und die Verteilung auf eine breite Basis wirtschaftlicher Player von Mittelstand bis Industrie. Die Selbstverpflichtung via verantwortlicher KI-Praktiken wie bei Google oder der Zusammenschluss zu Gremien ethischer Selbstkontrolle wie von Amazon, Google, IBM, Microsoft und Apple sind ein Anfang. 

Die Zivilgesellschaft hat, was KI betrifft, viel zu häufig Angstbilder etabliert, die eher den Dystopien Hollywoods als den Laboren von Startups entspringen.

"Nutzer und Schöpfer müssen ihre Verantwortlichkeit umfänglich neu definieren"

Wir brauchen aber auch die Akzeptanz der Gesellschaft, die nur mittels Wissensvermittlung zu erreichen ist, um die neuen auf KI basierten Technologien im Sinne der ganzen Menschheit einzusetzen.

Neben den ethischen Aspekten geht es aber auch um die Befriedung kommender sozialer Spannungen im Lichte der rasenden Automatisierung. Konzepte wie „lebenslanges Lernen“, Open Educational Resources (OER) und das BGE gilt es in einem breiten gesellschaftlichen Diskurs voranzutreiben.

Generell gilt aber: Nutzer und Schöpfer müssen ihre Verantwortlichkeit umfänglich neu definieren, denn je mehr Verantwortung wir einer global im öffentlichen Raum operierenden KI übertragen, desto mehr müssen wir uns der Implikationen auf beiden Seiten klar werden. KI kann nur so gut sein wie ihr Entwickler und ihr Nutzer.

Wo sehen Sie die größten Chancen? 

Langfristig bei Spaceexploration, mittelfristig und kurzfristig bei Verkehr, Gesundheitsversorgung und im Bildungsbereich. Gerade hier fehlt es seit eh und je an Personal. Schon heute greifen Mediziner sehr häufig auf die Diagnosen von Machine Learning basierten Algorithmen zurück, zum Beispiel bei der Hautkrebsfrüherkennung, Erstdiagnosen als auch Rückfallbewertung.

In Kombination mit mobilen Lösungen wie z. B. smarten Scansystemen werden viele Menschen sehr viel länger beschwerdefrei leben. Fehldiagnosen, die dritthäufigste Todesursache, lassen sich nachweislich durch den beratenden Einsatz KI basierter Systeme vermeiden. 

Wie schätzen Sie den Bereich der Bildung ein?

Im Bereich der Bildung stehen wir vor viel dramatischeren Umbrüchen. Die vertikale wie horizontale Durchlässigkeit von Bildungssystemen als Grundvoraussetzung eines lebenslangen Lernens braucht intelligente Onlinesysteme zur Vermittlung von Wissen und Fertigkeiten. Menschen wollen lernen, und das möglichst einfach, modern und auf ihre Bedürfnisse zugeschnitten.

Ein wie auch immer geartetes Monopol der Bildungsbestimmung ist nicht mehr zeitgemäß und erschwert der Gesellschaft ein Mitgehen in die Digitalisierung. Wissen ist Allgemeingut.

Die Reorganisation von  Infrastrukturprojekten, Verkehr sowie die disruptiven Änderungen in der Energiewirtschaft hin zu einer dezentral organisierten Versorgungsinfrastruktur kann ohne KI nicht bewältigt werden. Dafür sind die eingehenden Datenpunkte viel zu komplex und die Vertragslage zu kleinteilig und  volatil. Ein Ansatz könnte hier eine Art blockchainbasierte KI sein. Die Berechtigungen der Datennutzung könnte in vertragsähnlichen Konstrukten nahezu fälschungssicher abgelegt sein.

Viele Aspekte der KI werden uns erst jetzt bewusst. Die Geschwindigkeit der Entwicklungen wird in den nächsten Jahren rapide zunehmen, da wir häufig die Effekte die sich aus Synergien ergeben, unterschätzen. KI, AutoML, Robotik, Facial Recognition, Sprachsynthese bis zu Deep Fakes gemeinsam erschaffen mitunter dystopische aber eben auch fantastische neue Möglichkeiten.

Datenerhebung,Verarbeitung und daraus bezogene Erkenntnisse werden als eine der tragenden Säulen für die nächste Phase der Digitalisierung ohne Machine Learning-basierte Prozesse kaum auskommen.

"Die jüngste Netz-Vergangenheit zeigt, wie schnell aus Ablehnung ein große Protestwelle mit Rebellionspotenzial erwächst."

Verstehen Wirtschaftsvertreter überhaupt die Tragweite von KI?

Intern wird häufig übersehen, wie sehr sich Firmen grundsätzlich wandeln müssen, wie sehr sie ihre eigenen Geschäftsmodelle auf zukünftige Operabilität abklopfen müssen und ob sie nicht vielleicht sogar obsolet werden.

Die öffentliche Vermittlung hingegen ist noch viel zu renditeorientiert. Der große gesellschaftliche Wurf durch die Kombination von AI, IoT und Blockchain wird selten vernünftig dargestellt. Hier fehlt nicht nur die Vision, sondern auch das Gespür, die Kunden und die Gesellschaft darauf vorzubereiten, damit aus anfänglicher Begeisterung nicht komplette Ablehnung wird. Diese mögliche Ablehnung von AI wird heute viel zu wenig diskutiert. 

Die jüngste Netz-Vergangenheit zeigt uns aber gerade, wie schnell aus Ablehnung via Social Media und Echokammern ein große Protestwelle mit Rebellionspotenzial erwächst. Wirtschaft, Ministerien und Kulturinstitutionen müssen hier endlich eine langfristige Strategie entwickeln, damit sich die frühe Technikbegeisterung nicht in fundamentale Ablehnung wandelt.

"Der Diskurs ist erst der Anfang, um die Gesellschaft auf das neu entstehende Paradigma vorzubereiten"

Welche Rolle spielt dabei der Austausch zwischen Technikern und Nichttechnikern?

Da gibt es gleich zwei wesentliche Aspekte: Die breite Akzeptanz der KI ist nur mittels breiter gesellschaftlicher Diskurse zu erreichen. Der Diskurs ist erst der Anfang, um die Gesellschaft auf das neu entstehende Paradigma vorzubereiten, in dem wir uns von von den herkömmlichen Bildungs- und Arbeitsmodellen verabschieden.

Zum zweiten ist es die Synergie von KI und menschlicher Kultur. Wir können nur erwarten, in einer fernen Zukunft eine „menschlich“ sinnvolle KI zu erreichen, wenn wir sämtliche Maschinenlernprozesse an allen gesellschaftlichen Aspekten teilhaben lassen. Nur so können wir den Bias, Blindspots & Gaps der KI überwinden und gerade die emotionalen und psychologischen Aspekte einer sanften aber intellektuellen KI verwirklichen.

Können Sie ein Beispiel nennen?

PAIR: (People + AI Research) als Google Projekt bringt das sehr gut auf den Punkt. Ein bildliches Beispiel: „Eine einseitig gedrillte Laborratte wird sämtliche Aufgaben erfüllen, die man ihr antrainiert, aber immer ein bissiges und verkümmertes Wesen bleiben, im Vergleich zu einem Haustier, das im Kreise seiner Familie zu einem sozial interagierenden Freund und Helfer wird.“ Das ist vielleicht ein wenig zu pathetisch formuliert, trifft aber im Kern genau das, was in dem Fall Google momentan mit seiner API offenen AI-Struktur realisiert. Jeder kann teilhaben und TensorFlow nutzen. Eine klassische Win-win-Situation.

Human Expertise Implementation, Kontextualisierung, kulturelle Sensibilität, Transparenz und Nachvollziehbarkeit sind wichtige Merkmale, die in der KI nur durch das Einbringen breiter gesellschaftlicher Expertise und individueller Erfahrungen realisierbar sind. Institutionelle Softwareentwicklung geht langsam zurück und Open Source-basierte Prosumer-Modelle gewinnen zunehmend an Relevanz. Die Monokultur des einsamen Coders ist vorbei.

Bruno Kramm
@BrunoGertKramm

Kramm

Pirat, Musiker, Digital-Beobachter und Think-tank Mitbegründer.

At the age of 17 Bruno developed his first computer game - 1984 on a Commodore 64, and with this game he gained “Die goldene Diskette”, a price awarded by CHIP computer magazine. 5 years later he founded one of the first German alternative music label which showed six-figured sales output of sound carriers within only a few years. Again 5 years later and with his own band he went on a first tour across the USA, Russia and Asia. In the mid-90s he participated in founding the first private internet provider in Upper Franconia/Germany called Spektracom. As proficient expert for copyright in the digital age he not only supported the Piratenpartei as consultant but also officiated as regional/state party leader in Berlin, political chairperson in Bavaria and candidate for the European and Bundestag elections. In radio and tv broadcasting he took part in numerous discussions about reforming copyrights, among them 3sat Kulturzeit, ZDF login, ARD Morgenmagazin, Sat1 (1 gegen 1), Zuendfunk, DLR, arte and many more. He performed speeches at events like re:publica, Berlin Music Days, Leipziger Buchmesse, DJV conference (German Journalists Association), Google Collaboratory, Wikimedia Foundation and published as columnist for Frankfurter Allgemeine Zeitung FAZ (2012 - 2013). As participant and debater he took part in the TTIP Stakeholder Meetings in Washington and criticized the inadequate integration of digital consumer protection into the free trade agreement. As specialist for copyright, collecting societies and artists’ rights in the digital age he successfully filed a lawsuit through all judiciary instances against the GEMA (Gesellschaft für musikalische Aufführungs- und mechanische Vervielfältigungsrechte) license share to publishers which are entitled to the authors only. Bruno Kramm supported countless young bands and musicians in developing their individual marketing strategies and helped with words and deeds in founding several successful record companies and music magazines. He works as beta-tester for various synthesizer manufacturers and thus assists in developing new synthesis concepts. Regarding digitalgrid he is especially focused on the cultural and social implications caused by machine learning, artificial intelligence and the comprehensive automation and digitization of our society.

View all News
Loading

Latest News