#12 Infocalypse Now? Ein Gespräch über Künstliche Intelligenz mit Prof. Dr. Ziad Mahayni

00:00:00: In dieser Ausgabe des HKA-Podcasts geht es um künstliche Intelligenz und ihre Auswirkungen.

00:00:05: Künstlicheintelligenz rückt so viele Dinge in die Machbarkeit, dass wir in einem neuen Paradigma denken müssen.

00:00:11: Wir müssen einfach gedanklich davon ausgehen, das alles was wir uns vorstellen können auch technisch machbar ist!

00:00:24: Hallo und herzlich willkommen.

00:00:25: schön, dass ihr dabei seid.

00:00:27: heute zu Gast Professor Dr.

00:00:29: Ziad Mahini, mit ihm habe ich mich über künstliche Intelligenz unterhalten.

00:00:34: Es geht in unserem Gespräch aber nicht so sehr um technische Details sondern eher um das was KI mit uns macht also wie sich unsere Gesellschaft durch künstlige Intelligenze verändert.

00:00:44: Siad Mahini ist der perfekte Gesprächspartner für solche Fragen, denn er hat Chemie und Philosophie studiert.

00:00:50: Er hat lange im Bereich Entrepreneurship gelehrt und ist bei uns an der HKA Professor für angewandte Ethik an der Fakultät für Informationsmanagement und Medien und erleitet das angesiedelte Referat für Technik- und Wissenschaftsethik Und er produziert selbst auch ein Podcast.

00:01:08: Auf der Kippe Philosophie für das digitale Zeitalter heißt er und darin schaut er eben mit dem Blick eines Philosophen, aber auch mit dem Background des Naturwissenschaftlers auf wirtschaftliche und gesellschaftliche Herausforderungen die sich aus diesem Gesamtkomplex der Digitalisierung ergeben.

00:01:25: Genug der Vorrede!

00:01:26: Wir gehen jetzt direkt rein ins Gespräch und ich habe Sia Mahini erstmal gefragt was ein Professor für angewandte Ethik eigentlich genau macht?

00:01:38: Ja, das ist eine gute Frage.

00:01:39: Er ist recht an einer Hochschule für angewandte Wissenschaften wo man ja nicht Philosophie oder Ethik studieren kann.

00:01:45: Meine Aufgabe besteht eigentlich darin, Ethik oder Philosophies in Studiengängen zu vermitteln die einen anderen Ausrichtung haben.

00:01:53: Das heißt ich bin hier zum Beispiel in der Fakultät Wirtschaft dafür zuständig Wirtschaftsethik zu lehren.

00:01:58: Ich bin da in der fakultät IV also Informatik dafür zuständig KI-Ethik und solche Themen zu lernen.

00:02:06: Das heißt, letztendlich ist meine Aufgabe ethische Fragen an die verschiedenen Themenfelder, die hier gelehrt werden, anzudocken und zu vermitteln.

00:02:14: Geht das so in den Bereich der Technikfolgenabschätzung?

00:02:16: Dass sie sozusagen Studierenden vermittelt, achte darauf dass bei dem was du tust die Folgen mit bedacht werden.

00:02:23: Technikfolgenabschützung ist sicherlich ein Teil davon, aber in der Ethik geht es natürlich immer auch schon um etwas grundlegendere Fragen.

00:02:32: Also es geht am Ende eigentlich um die Frage der Verordnung des Menschen in der Welt und das kann man auf einer ganz grundlegenden Ebene diskutieren.

00:02:42: Da verändert sich natürlich gerade sehr viel dadurch dass die Welt jetzt in einer Transformation begriffen ist und das Dann geht man da letztendlich der Frage nach, was ist gutes Handeln?

00:02:56: Was ist gutes Mensch sein in diesem Kontext.

00:03:00: Sie sind außerdem Leiter des Referates für Technik und Wissenschaftsethik.

00:03:04: Was macht diese Einrichtung?

00:03:06: Die ist ja an der HKA angesiedelt, betrifft aber auch andere Hochschulen in Baden-Württemberg.

00:03:11: Richtig!

00:03:11: Das ist eine landesweite Einrichting die an der Hochschule Karlsruhe angesiedelte ist, die aber die Aufgabe hat alle Hochschulen für angewandte Wissenschaftler in Baden-Württemberg im Bereich der Ethik zu unterstützen und wie es eigentlich gerne unsere Mission formulieren würde.

00:03:27: Es ist unsere Aufgabe, den Diskurs über die wichtigen ethischen Fragen unserer Zeit zu fördern, zu vermitteln, in die Öffentlichkeit zu tragen, in verschiedene Hochschule zu tragen und dort auch die Lehre an ethischen Fragestellungen zu unterstützen.

00:03:40: Das heißt wir haben ein Förderprogramm.

00:03:42: andere Hochschulern können sich bei uns Bewerben und können Gelder bei uns auch bekommen, um Programme im Bereich der Ethik an ihren Hochschulen zu implementieren.

00:03:53: Wir machen selbst eigene Veranstaltungen und Events zum Thema Ethik werden gerade zum Beispiel so eine Ringvorlesung ethische Frage im Digitalzeitalter die dann landesweit durchgeführt wird.

00:04:04: wir haben eine eigene Ethikakademie.

00:04:06: Das heißt, wir sind wie so ein Mini Hochschulbetrieb im Bereich der Ethik.

00:04:11: Jeder Studierende jeder Hochschule für angewandte Wissenschaftler in Baden-Württemberg kann bei uns studiembegleitend ethiklehrveranstaltung besuchen und auch ein studienbegleitenes Zertifikat erwerben.

00:04:24: Und das sind die wesentlichen Bausteine, die wir betreiben.

00:04:27: Wir starten noch gerade eine eigene Publikationsreihe und vieles mehr!

00:04:33: findet das dann in Karlsruhe hier vor Ort statt oder gehen Sie auch an die verschiedenen Hochschulen?

00:04:37: Sowohl als auch.

00:04:38: Die Lehrveranstaltung, die wir selber in unserer Akademie anbieten finden überwiegend online statt weil sie eben eine landesweite Ausrichtung haben.

00:04:45: Wir haben aber immer auch Präsenzveranstaltungen und der Veranstaltung die wir an den einzelnen Hochschulfördern finden dort statt.

00:04:53: Also es ist letztendlich eine dezentrale Einrichtung zentral hier in der In-Karlsruher angesiedelt.

00:04:59: Im Zusammenhang mit Ihrer Tätigkeit haben Sie auch immer wieder mit künstlicher Intelligenz und mit KI Artificial Intelligence zu tun.

00:05:07: Sie beschäftigen sich damit sehr umfangreich, wann haben sie eigentlich zuletzt privat selbst eine KI benutzt?

00:05:12: Und wofür?

00:05:14: Näh ich benutze sie natürlich täglich.

00:05:17: also das letzte Mal habe ich sie vor fünf Minuten benutzt als ich mich von meinem Navi hierher habe fahren lassen.

00:05:22: ja also wir sind uns gar nicht bewusst Wie tief künstliche Intelligenz eigentlich schon in die alltäglichen Prozesse integriert ist.

00:05:30: Also ein Beispiel, ich habe mir gerade mal zusammen mit einer Studierenden an der Bachelorarbeit angeschaut wie Künstlicheintelligenz im HR eingesetzt wird also

00:05:40: Personalverwaltung.

00:05:42: Da ging es vor allem in der Personalauswahl von der Stellenausschreibung bis zur Einstellung.

00:05:49: Und wenn ich mich jetzt mal in die Perspektive eines Bewerbers hineinversetze, von dem Moment an wo ich Stellenanzeigen scoute bis zu dem Moment in dem ich eingestellt bin muss sich ja verschiedene Etappen durchlaufen.

00:06:03: In diesem Prozess habe ich es schon heute ungefähr genauso oft mit künstlicher Intelligenz zu tun wie mit echten Menschen.

00:06:10: Das ist mir gar nicht bewusst, wenn ich diesen Prozess durchlaufe.

00:06:14: Aber das beginnt von KI-generierten Stellenausschreibungen, die optimiert sind auf Zielgruppen.

00:06:19: Das beginnt bei Vorgesprächen, die mit KI Chatbots durchgeführt werden und das beginnst bei den Screening von CVs, die dann in der Nebenstadt finden

00:06:29: usw.,

00:06:30: also KI ist längst tief integriert und wir haben eigentlich jeden Tag damit zu tun.

00:06:35: Wenn Sie diese Integrationstiefe der KI in den Alltag betrachten, vielleicht gehen wir da gerade nochmal einen Schritt zurück.

00:06:41: Würden sie sagen KI ist eine Art der technologischen Weiterentwicklung?

00:06:47: Also etwa so wie eine CD die Weiterentwirkung einer Schallplatte war oder ist das etwas so grundlegendes sowas was man vielleicht als fundamental anders oder disruptiv bezeichnen könnte?

00:06:58: Ja, also meine Sachen ist das tatsächlich ein häufig zu hörenes Missverständnis in der Debatte über kürzliche Intelligenz.

00:07:05: Es ist ja einfach nur eine weitere neue Technologie und... Es wird dann oft zum Beispiel der Bezug hergestellt zur Eisenbahn.

00:07:15: Als die Eisenbahn neu aufgekommen ist, hatten auch viele Menschen Angst davor und es gab Vorstellungen und Ideen davon dass das schnelle Fahren mit der Eisenbahn und wir reden hier über das achttzehnte Jahrhundert also schnell hieß dann irgendwie dreißigvierzig kmh zu massiven Gehirnschäden bei den Passagieren ja führen müssen.

00:07:32: Und diese Ängste haben sich ja so nicht bewahrheitet.

00:07:35: und so sei es ja irgendwie mit allen Technologien.

00:07:38: So sei das letztendlich auch mit künstlicher Intelligenz, und das halte ich für einen falschen Gedanken.

00:07:45: und tatsächlich glaube ich dass die Technikphilosophie hier durchaus Beiträge leisten kann zu einem besseren tieferen Verständnis was KI ist und wie es sich von anderen Technologieren unterscheidet.

00:07:56: Künstliche Intelligenze ist das was man in der TechnikPhilosophies eine General Purpose Technology nennen würde.

00:08:02: Das bedeutet?

00:08:04: Man kann das vielleicht auch übersetzen mit einer Metatechnologie, also Künstliche Intelligenz müssen wir uns eigentlich eher so vorstellen und verstehen wie Elektrizität.

00:08:14: Mit Elektrizitäts selbst kann ich ja erst mal nichts machen aber dadurch dass Elektrizität in andere Technologien hineinkommt werden die auf ein völlig anderes Niveau gehoben und es werden Dinge möglich, Technologie möglich, die vorher nicht möglich gewesen sind Elektrizität.

00:08:32: und in dem Sinne so, glaube ich, da können wir das analog auch auf Künstliche Intelligenz übertragen.

00:08:37: Künstlicher Intelligenzen ist eine Technologie die sich in alle anderen Technologien integriert und immer weiter und immer tiefer integrieren wird, sich metaphorisch gesprochen dort ans Steuerrad setzt und dadurch alle anderen technologien auf ein völlig anderes Niveau hebt und zugleich Technologin möglich macht, die zuvor undenkbar gewesen sind.

00:09:01: Und das bedeutet wiederum, dass die Veränderungen, die durch künstliche Intelligenz einhergehen natürlich viel grundlegender, viel weitreichender sind als wenn es um die Erfindung oder Entdeckung einer sogenannten Single Purpose Technologie gilt.

00:09:17: Also die Eisenbahn ist eine Single Purpose Technologie hat einen ganz konkreten Zweck Menschen oder Güter von A nach B zu transportieren mehr nicht.

00:09:24: Und das ist immer künstliche Intelligenz anders, und es ist ein grundlegender Unterschied.

00:09:28: Es gibt noch einen weiteren Grundlegenden Unterschied.

00:09:31: Künstliche Intelligence ist die erste und einzige Technologie, die sich selbst weiterentwickeln und optimieren kann.

00:09:37: Das verändert natürlich auch sehr viel und wirft Fragen auf, die wir so im Kontext anderer Technologien nicht hatten.

00:09:47: Die Elektrizität, die Sie ins Spiel gebracht haben hat unseren Alltag nahezu zu hundert Prozent durchdrungen.

00:09:54: Das hat auch gar nicht so lange gedauert, aber doch immerhin mehrere Jahrzehnte.

00:09:58: Wo stehen wir denn inzwischen?

00:10:00: In der künstlichen Intelligenz im Jahr zwei tausend vierundzwanzig?

00:10:04: Wir hatten es ja eingangs das die Durchdringung schon im vollem Gange ist und natürlich wird sie auch viel viel schneller gehen weil sich digitale Technologien viel schneller entwickeln als als analoge Technologin Und Mehrwert.

00:10:21: Jetzt müssen wir natürlich aufpassen, was mehr Wert hier eigentlich ist.

00:10:24: also als Philosoph würde ich jetzt könnten wir eine ganz lange Diskussion darüber führen was es denn jetzt eigentlich mehr wird.

00:10:30: aber wenn wir das jetzt mal rein ökonomisch kapitalistisch definieren der monetäre Mehrwert Effizienzsteigerung neue neue Geschäftsfelder Umsatzgewinne Produktivitätssteigerungen damit künstliche Intelligenz einhergeht ist so groß dass hier natürlich ein starker Motivation entsteht das auch zu integrieren.

00:10:50: Und es ist einzig und allein eine Frage der Regulatorik, wie tief die Integration fortschreiten wird oder nicht?

00:10:59: Also wenn das unreguliert bleibt, wird sich immer sehr schnell, sehr tief in praktisch alle Prozesse integriert.

00:11:05: Das würde ich sagen, ist ganz klar der Fahrt auf dem wir sind.

00:11:09: Und das ist tatsächlich auch wieder eine Neuerung!

00:11:13: Es liegt nun nur einzig in einem gesellschaftlichen diskursiven Prozess, also zu der Entscheidung, der wir im gesellschaftlichem diskursive Prozess kommen.

00:11:25: Was wir erlauben wollen und was nicht?

00:11:26: Wie wir es regulieren wollen oder nicht?

00:11:28: Was passiere ich mit oder

00:11:29: nicht?".

00:11:29: Das war anders bei anderen Technologiespringen weil es gewisse Dinge einfach gab die waren nicht möglich Die waren technisch nicht möglich.

00:11:37: Es gab viel größere Limitierungen, die in die Technik selbst eingebaut wurden.

00:11:42: Wir mussten uns über viele Dinge eigentlich gar keine Gedanken machen weil es klar war dass sie gar nicht möglich sind.

00:11:48: Ich nehme mal ein Beispiel Gedankenlesen Gedanken lesen ist etwas... Da hat man früher auch drüber nachgedacht.

00:11:54: Ja was waren im Science-Fiction Autoren oder Fantasten, die darüber nachgedachten haben?

00:11:58: Und wir mussten sich nicht ernsthaft damit beschäftigen ob wir so etwas erlauben wollen oder nicht Weil völlig klar war das ist technisch nichts machbares Und das verändert sich gerade.

00:12:08: Künstliche Intelligenz rückt so viele Dinge in die Machbarkeit, dass wir... Ich würde es so formulieren, dass man eigentlich in einem neuen Paradigma denken muss und müssen einfach gedanklich davon ausgehen, dass alles was wir uns vorstellen können auch technisch machbar ist.

00:12:22: Unabhängig davon ob wirklich alles alles umfasst ja?

00:12:25: Aber ich glaube, das ist ein hilfreiches gedankliches Paradigma, um sich auf die Veränderungen einzustellen zu können.

00:12:31: Wenn wir so denken wenn wir einfach mal davon aus gehen dass alles möglich ist, dann wird augenblicklich klar das die Verantwortung für die Regelung nun in einem viel größeren Umfang.

00:12:44: In einem viel grösseren Ausmaß als vorher Auf der Seite des Menschen, auf der Seite der Gesellschaft und der Politik und der Regulierung liegt.

00:12:52: Das heißt es läuft so ein bisschen darauf aus auf eine Gegenüberstellung von Mensch und Maschine.

00:12:57: letztendlich da würde sich mir dann aber natürlich erstmal die Frage stellen wir reden immer von künstlicher Intelligenz und von menschlicher Intelligenz.

00:13:05: ist künstliche Intelligenzen denn tatsächlich intelligent?

00:13:10: Ja also das ist eine Frage die ganz ins Herz der Thematik vorrückt.

00:13:16: Dazu muss ich ein klein bisschen ausholen, um Sie einen

00:13:19: befriedigen

00:13:20: Beantworten zu können.

00:13:22: Wenn man diese Frage beantworten möchte ob künstliche Intelligenz intelligent ist dann müsste man ja vermutlich erst mal die frage wandern was Intelligenze eigentlich ist.

00:13:32: sonst haben wir daher keinen richtigen bezugrahmen.

00:13:36: tatsächlich ist es aber so dass wir eigentlich nicht wirklich wissen was Intelligenz ist Und wenn man sich das kulturhistorisch mal anschaut, hat sich unser Verständnis oder die Art und Weise wie wir Intelligenz definieren immer sehr stark verändert über die Zeit.

00:13:49: Und zwar war es in so einem oscillierenden Prozess, zum Beispiel in der Antike gab's ein sehr weites Verständnissen von Intelligenzen.

00:13:56: Da gehörte auch Geschmack zb dazu und viele andere Dinge.

00:14:00: Das hat sich immer weiter eingeengt bis dann... Um nineteenhundert herum Intelligenz eigentlich als eine rein analytisch-matematische Intelligenze verstanden worden ist, die man dann in IQ Punkten irgendwie beziffern kann.

00:14:12: Und jetzt sind wir wieder eigentlich an einem Prozess der Öffnung ja, der schon vor der großen KI Welle begonnen hat.

00:14:19: also Wir sind eigentlich dabei den Intelligenzenbegriff immer weiter zu öffnen und da kommt die Emotionalintelligenz, die soziale Intelligenz usw.

00:14:27: Langgeregte kurzer Sinn haben eigentlich keine echte Antwort auf die Frage, was Intelligenz ist.

00:14:33: Deshalb würde ich die Frage anders beantworten.

00:14:36: Ich glaube es ist sinnvoller die frage so zu stellen Ist das Was künstliche intelligenz tut strukturell vergleichbar mit dem was menschen tun wenn sie intelligent mit der welt interagieren?

00:14:51: und Wenn dass das gleiche ist dann könnten wir sagen, naja das scheint irgendwie zu Recht den Titel Intellienz zu tragen.

00:14:58: Wenn es strukturell etwas anderes ist dann sehen wir was anders.

00:15:01: so.

00:15:02: und wenn wir uns anschauen was KI Systeme also ist immer der Benchmark in der KI sind ja large Language Models Zeit.

00:15:09: wenn man sich anschaut was Large Language Modules wie Chat GPT tun Dann ist das, würde ich argumentieren strukturell etwas anderes als dass was Menschen tun.

00:15:19: Nämlich?

00:15:19: Sie erläutert das immer gern an dem schönen Satz Ich liebe Dich.

00:15:23: Stellen sie sich vor, Sie sind im Antlet der von Ihnen heiß geliebten Person und keine Ahnung.

00:15:29: vielleicht möchten Sie einen Eiratsantrag grad machen oder so ja Und dann sagen Sie den Satz ich liebe dich Ja jetzt gucken wir uns aber erst mal an.

00:15:35: Was macht denn ein Large Language Model wenn es diesen Satz spricht?

00:15:39: und Large Language Models sind stochastische Modelle, die die Wahrscheinlichkeiten ausrechnen mit der ein Wort auf ein anderes folgt.

00:15:47: Also das Large Language Model sagt dann als erstes das Wort ich und dann überlegt es sich Wahrscheinlichkeit.

00:15:52: welches Wort könnte ich denn im Kontext einer romantischen Szene als Nächstes sagen?

00:15:57: Und dann fügt es das Wort Liebe dazu und dann rechnet es wieder die Wahrscheinigkeiten aus was es nur als nächstes sagen könnte im wörtlichen Sinne.

00:16:07: Das heißt, es rechnet für jedes beliebige Wort von Traktor über Bügeleisen, Kühlschrank bis zu Dich aus ein Wahrscheinlichkeitsscore und stellt dann fest naja also wahrscheinlich ist das Wort Bügeleiessen jetzt nicht so gut geeignet wie dich.

00:16:24: ich liebe Bügelleisen könnte

00:16:26: man jetzt ist ja in einem anderen Kontext mit sich aus.

00:16:27: sinnvoller Satz Und Ein large Language Model versteht ihr auch Kontekste und kann die eben bei der Wahrscheinlichkeit berechnen berücksichtigen So, und dann sagt es sich liebe dich.

00:16:38: Und das ist ein vollkommen sinnvoller Satz!

00:16:40: Jetzt überlegen Sie mal was sie tun wenn sie als Mensch im... Sie wollen gerade ihren Heiratsantrag machen und ihrer Frau jetzt sagen ich liebe Dich?

00:16:51: Dann sagen sie eigentlich Ich überlegen Wahrscheinlichkeiten sagen Liebe und dann überlegen sie ja nicht.

00:16:57: sollte ich nun als nächstes Bügeleisen Toaster oder Dich sagen

00:17:01: Ja, Heiratsanträge sind keine Frage der Stochastik.

00:17:05: Ja und es ist interessant weil was dieses einfache Beispiel zeigt also so funktioniert das nicht wenn wir denken?

00:17:12: Und ich glaube ein Grund ist dass menschliches Denken eingebettet ist in Fühlen.

00:17:21: Wir können menschliches Denken nicht losgelöst vom Fühlen verstehen.

00:17:25: Das nennt man in der Philosophie auch, also es wird dann diskutiert unter der Embodiment-Hypothese.

00:17:31: Menschlich Intelligenz ist embodied, also eingekörpert in einen Leib, in Gefühle, in Empfindungen und aus diesem Zusammenspiel heraus entsteht eigentlich überhaupt erst das was wir menschliche Intelligenzen nennen.

00:17:43: Und künstliche Intelligenzen funktionieren anders.

00:17:47: Sie kommen aber zu Ergebnissen sie produzieren Ergebnisse, sie produziern ein Output Output menschliche Intelligenz in den überwiegenden Fällen nicht mehr zu unterscheiden ist.

00:18:01: Deshalb würde ich eigentlich sagen oder deshalb sage ich immer, wir müssten eigentlich sinnvoller von simulierter Intelligenze sprechen.

00:18:09: Künstliche Intelligenz simuliert über einen strukturell anderen Weg, über ein anderer Prozess Ergebnisse oder kommt zu Ergebnissen, die von den Ergebnisen über Menschliche Intelligenz produziert werden nicht zu unterscheiden sind.

00:18:24: So jetzt könnte man sagen ist das denn wichtig?

00:18:27: Ist doch egal!

00:18:29: Das Ergebnis ist das gleiche.

00:18:31: aus technologischer Sicht könnte man das sagen, ist doch letztendlich egal.

00:18:35: Aus philosophischer Sicht würde ich argumentieren, dass es ein fundamentaler Unterschied und es von fundamentaler Bedeutung sich klar zu machen, dass das strukturell etwas anderes ist.

00:18:45: Denn dieses Verständnis... bewahrt vor dem meines Erachtens Missverständnis zum Beispiel KI zu anthropomorphisieren.

00:18:54: Also mit ihr so zu tun, als sei das wirklich ein menschenähnliches Wesen?

00:18:58: Das ist es nicht!

00:18:59: Es stand heute eine Maschine die Kalkulation macht, eine amerikanische Linguistin hat dafür den Begriff geprägt, stochastischer Papagei.

00:19:09: Papageih war jetzt praktisch nachsprechend Dinge, die schon gesprochen worden sind also die KI dann in den Datensätzen auf diese rekoriert findet.

00:19:18: Also das P in GPT steht ja für pre-trained, pretrained auf irgendwelchen Büchern und Kommunikationen die schon in der Vergangenheit getätigt worden sind und eingelesen worden sind.

00:19:28: Naja und diese bereits gesprochenen Dinge wiederholt sie nach Wahrscheinlichkeitsberechnung stochastischer Und das ist eben doch strukturell etwas anderes.

00:19:38: und dieser Unterschied hat Bedeutung meines Erachtens.

00:19:41: Halten Sie es denn für möglich, dass KI in Zukunft vielleicht so etwas wie Gefühle entwickelt oder vielleicht sogar sowas wie an Bewusstsein?

00:19:48: Also was KI ganz sicher entwickelt ist die Simulation von Gefühlen.

00:19:54: Und da sind wir schon in vollem Gange.

00:19:57: also emotional AI ist ja auch ein großer Trend aber das ist wieder strukturell genau das gleiche.

00:20:02: Eine KI simuliert Gefühle.

00:20:05: Das heißt, KI ist im Grunde wenn ich es zusammenfassen darf künstliche Intelligenz beherrschten Mathematik sie beherrscht Simulation und ist aber nicht intelligent.

00:20:15: Sie ist nicht intelligent.

00:20:16: in menschlichen Szenarmenne kommt das also.

00:20:19: Philosophen möchten definieren ja auch gerne Dinge und wenn man hier mal genauer darüber nachdenkt wird das immer sehr, sehr schwierig mit den Definitionen.

00:20:28: Wenn wir Intelligenz definieren als dass was Menschen tun wenn sie intelligent mit der Welt integrieren dann ist es eine simulierte Intelligenze.

00:20:36: aber die Kernfrage die unter dieser Debatte die wir gerade führen lauert Ist eigentlich die?

00:20:44: Was is denn eigentlich der Mensch?

00:20:46: Das ist die eigentliche fundamentale Kernfrage und auch die Frage, die im Zentrum meines Forschungs- und Nachdenkens steht.

00:20:53: Die Frage was der Mensch wird durch künstliche Intelligenz fundamental herausgefordert?

00:21:01: Wir sind gerade in einem Prozess der Neupositionierung des Neudefiniens wer wir eigentlich unserem Wesen nach sind.

00:21:10: das bisherige Menschenbild, auf dem wir eigentlich heute noch stehen, baut auf den Menschenbild der Aufklärung auf und das hat den Menschen definiert über seine kognitiven Fähigkeiten.

00:21:23: Über sein rationales Vermögen, über seinen Denkvermögen.

00:21:26: Man könnte sagen über sein Intelligenz-Vermögen.

00:21:28: Und nun kommt KI und scheint den Menschen genau in dieser Sphäre zu überrunden und höffungslos hinter sich zu lassen.

00:21:34: Und das verunsichert uns!

00:21:36: Diese Verunsicherung sehen wir in diesen Debatten zwischen utopischen und dystopischen Szenarien der Zukunft, Wir sehen es in den Debatten über die Zukunft des Arbeitsmarkts.

00:21:47: Unter all diesem Debatten liegt die Unsicherheit... Ja wer sind wir denn selbst?

00:21:52: Was zeichnet uns eigentlich noch

00:21:54: aus?!

00:21:55: Wo ist unser Ort, wo ist unser Platz in der Welt?

00:21:58: Eine Dystopie die Sie vielleicht auch schon vorhin angesprochen haben.

00:22:01: Ist dass sich der Arbeitsmarkt sehr stark verändern wird durch den Einsatz von KI.

00:22:06: Inwiefern wird das der Fall sein?

00:22:08: Also der Arbeitsmarkt wird sich ganz sicher fundamental verändern.

00:22:11: ein Schritt zurück also jetzt die Frage ist es eigentlich eine Dystopi oder ist es eine Utopie?

00:22:15: ja man kann das beide Richtungen spinnen wenn man okay dann

00:22:19: betrachten was mal neutral.

00:22:22: Die Diszipl wäre natürlich die, die KI nimmt den Menschen alle Arbeit weg und die Menschen haben keinen Einkommen mehr usw.

00:22:31: Und die utopische Version ist ja die Naja.

00:22:34: es doch schöner mal viel mehr Zeit für andere Dinge und durch ein bedingungsloses Grundeinkommen KI Steuer Robotersteuer finanziert.

00:22:41: können wir uns dann den schönen Dingen zu wenden?

00:22:43: Das wäre nochmal eine andere Frage die lasse ich jetzt mal liegen.

00:22:46: Ich komme auf ihre eigentlichen Frage zurück wie verändert sich der Arbeitsmarkt.

00:22:52: Das ist natürlich ein bisschen Glaskugel schauen, tatsächlich schaue ich mir auch das gerade genauer an.

00:22:57: wir machen grade mit einer Bachelorarbeit so eine Metastudie, wir schauen grad mal sämtliche Studien zum Thema Zukunft der Arbeit an und die verschiedenen Prognosen die es da gibt und werten sie da gerade aus.

00:23:10: Naja, man hat ja natürlich so ein Spektrum.

00:23:12: Es gab diese erste große Studie die das Thema aufs Paket gehoben hat.

00:23:17: Die berühmte Oxford-Studie von Osborn & Frye, die gesagt hat, dass fünfzig Prozent aller Arbeitsplätze innerhalb der nächsten zehn bis zwanzig Jahre – glaube mal auch die Studie ist schon zehn Jahre alt – durch digitale Technologien ersetzt werden können!

00:23:34: Dass sie ersetzt werden können heißt nicht, dass sie auch ersetzt wird.

00:23:38: In einem kapitalistischen Arbeitsmarkt entscheidet das letztendlich die Marktwirtschaftlichkeit und ich würde sagen wir werden Jobs sehen, die weiterhin von Menschen vollbracht werden weil es billiger ist Menschen einzusetzen.

00:23:49: Nicht weil eine Kain nicht kann sondern weil es Billiger ist es Menschen zu tun.

00:23:53: Der Paketbote ist so ein Beispiel Aber das ist so.

00:23:57: das eine Extreme und dann gibt es andere, die auch viel differenzierter reinschauen.

00:24:02: Die eben sagen naja wir müssen uns eigentlich Tätigkeitsbündel anschauen.

00:24:06: Also die Aussage wird jetzt ein Job wegrationalisiert oder nicht ist viel zu pauschal sondern jeder Job besteht ja aus ganz vielen verschiedenen Tätigkeiten.

00:24:14: Ganz viele verschiedene Dinge die man machen muss.

00:24:16: Und in jedem Job gibt es Tätigkeiten die ganz sicher durch KI und andere Digitaltechnologien automatisiert werden können.

00:24:24: Und die Frage ist, wie groß ist dieser Anteil?

00:24:27: Ja und es gibt eine Studie.

00:24:29: Die kommt zu den Ergebnissen das in zehn Prozent aller Jobs fünfzig Prozent aller Tätigkeiten automatisiert werden können.

00:24:35: Das heißt also wenn Wenn die Anzahl der Tätigkeit im Job hoch ist, die Automatisiert werden können dann ist die Wahrscheinlichkeit dass der ganze Job verschwindet natürlich groß Aber kurzfristig wird das nur für zehn Prozent der Jobs gesehen.

00:24:49: Ich will's mal konkret machen was wäre zum Beispiel mit dem Job eines Übersetzers?

00:24:54: Also der Job eines Übersetzers ist glaube ich sehr gut geeignet, um mal zu diskutieren was was passieren wird.

00:25:02: Sie können heute per Knopfdruck jede beliebige Sprache oder andere Gespräche übersetzen und das Ergebnis ist sehr, sehr gut!

00:25:10: Das wird natürlich weitergehen.

00:25:11: es gibt schon jetzt so Echtzeitübersetzer wo sie praktisch eben auch reinreden und dann kommt die Ansprache raus usw.. Im Grunde genommen ist das der alte biblische Traum.

00:25:20: Also wenn Sie anders die Sprachverwirrung von Babel denken, die wird könnte man sagen durch KI Obsolid.

00:25:27: Die Sprach-Verwirrungen beim Turmbau vom Babel... Das heißt

00:25:31: die Architekten müssen sich keine Sorgen machen

00:25:33: sozusagen und zwar egal mit wem sie sprechen in jeder Sprache.

00:25:37: das ist ja enorm.

00:25:41: Heißt das nun dass es keine Übersetze mehr geben wird?

00:25:46: Heißt jetzt dass wir keine Dolmetscher mehr sehen werden.

00:25:51: Ich würde sagen, nein aber das was ein Dolmetscher tut ist eigentlich etwas anderes.

00:25:58: Denken Sie an, sagen wir mal Olaf Scholz besucht Emmanuel Macron Der sitzt dann oft... Das sieht man in den Bildern so einen Dolmettcher oder einen Dolmetcheren im Hintergrund wenn die sich zu einem Privatgespräch führen Wenn sie nicht eng sprechen.

00:26:11: solche Art von Dolmettre wird es weiterhin bleiben.

00:26:14: Aber was tun die eigentlich?

00:26:16: ich würde sagen Sie stiften Vertrauen.

00:26:22: Also ich glaube, wir sehen einen neuen Job der eigentlich darin besteht, Vertrauen zu stifte.

00:26:31: Dass Menschen Tätigkeiten ausführen, obwohl sie von einer KI ausgeführt werden um eine Atmosphäre und ein Kontext des Vertrauens aufzubauen.

00:26:43: Und das haben wir eben in dem Fall so... ist ein bedeutendes Gespräch, da macht das vielleicht Sinn.

00:26:52: Ich falte das mal auf ein anderes Beispiel.

00:26:53: Wir haben schon heute KI-Systeme die krebs mindestens genauso gut wenn ich besser diagnostizieren können als menschliche Ärzte.

00:27:03: Menschliche Ärzte nutzen diese KI Systeme?

00:27:06: Und sie brauchen natürlich auch Fachkompetenz, um das irgendwie ein Stück weit bewerten und auswerten zu können.

00:27:11: Aber je mehr der fachlichen Tätigkeit eines Arztes von KI-Systeme umnimmt, umso mehr verschiebt sich die Arbeit des Arzes in Richtung Vertrauensbildener zu sein – also die Person zu sein, die die Diagnose auf eine richtige Art und Weise einem Patienten vermittelt.

00:27:29: Ich bin noch ein bisschen skeptisch, wenn es um diese Vertrauensangelegenheit geht.

00:27:32: Und zwar deshalb weil ich erinnere mich in meiner Kindheit, wenn da Auto gefahren wurde dann war die Beifahrerin oder der Beifahrer fürs Kartenlesen zuständig.

00:27:40: man hat der Person vertraut diesen Weg richtig zu finden.

00:27:44: heutzutage Vertrauen wir alle Google Maps oder irgendeine anderen App, die wir auf dem Handy haben und es führt ja sogar dazu dass manche Leute dann direkt in den Bodensee reinfahren weil Google Maps gesagt hat gerade aus gehts weiter.

00:27:55: Es hat sich also quasi das Vertrauen auf die Maschine verlagert.

00:27:58: ist das nicht auch denkbar?

00:28:00: Dass das im Bereich des Dolmetschens oder auch im Bereich der Medizin dann passiert, dass wir einfach sagen okay hier ist eine App schau doch mal was du für Krankheiten hast.

00:28:08: Das ist absolut denkbar.

00:28:10: ich würde sagen langfristig wird es auf jeden Fall Verschiebungen geben und das ist wahrscheinlich auch ein Stück weit sogar eine Generationenfrage, ja?

00:28:20: Womit bin ich aufgewachsen.

00:28:22: Also Verschriebung wird es geben.

00:28:24: Aber ich komme mal zurück zu dem Beispiel.

00:28:26: Sie haben ja mit Ihrer Beifahrerin oder Ihrem Beifahrer eigentlich nur als Notlösung integriert.

00:28:32: sie wollten eigentlich wissen wie komme ich von A nach B?

00:28:35: Und ich glaube es gibt Tätigkeiten bei denen dass anders ist.

00:28:40: Ich werde zum Beispiel oft gefragt kleiner, kleiner Wechsel auch in meine Tätigkeit als Managementberater.

00:28:45: Wie setzen wir das denn da am besten ein?

00:28:47: Nun ich würde dann immer danach schauen wo hat die Mensch-Mensch Interaktion einen besonderen Wert?

00:28:54: und dann kommen zum Beispiel zu Schnittstellen wie den Vertrieb.

00:28:58: Und im Vertrieb ist es natürlich auch so, dass es immer mehr KI basierte Software gibt.

00:29:04: Die genau sagen was ist der richtige Preis mit dem ich in eine Verhandlung gehen sollte die mir sogar Verhandlungsstrategien geben die auch mithören können und sagen können jetzt solltest du folgendes Argument bringen usw.

00:29:16: Trotzdem glaube ich das wir weiterhin Menschen sehen werden die dort tätig sind weil hier eben in der mensch-mensch-interaktion tatsächlich vertrauen noch einen gewissen wert hat und das meine ich mit vertrauensbild.

00:29:28: also tätigkeiten verschieben sich in die richtung das heißt, ich habe eine k.i Die mir eigentlich ganz viel input immer liefert fach aufgaben abnimmt Und Die dazu führt, dass die menschliche Tätigkeit eigentlich auf die Pflege der Beziehung.

00:29:46: Auf das Aufbauf und Vertrauen, auf das Bewahren, auf Empathie, auf es eingehen usw.

00:29:53: eingeht.

00:29:54: Aber natürlich haben sie vollkommen recht Das muss langfristig nicht so bleiben aber es scheint mir nur ein Ort zu sein an dem man gut sehen kann, wie sich innerhalb der Tätigkeit die Schwerpunkte eigentlich sukzessive verschieben werden.

00:30:10: In welche Richtung sie sich verschieben und dir auch ein Indikator dafür geben, wo bleibt menschliche Arbeit?

00:30:17: Und es sind immer sozusagen die hochwerte konzeptionellen Tätigkeiten.

00:30:22: Also ich muss jetzt irgendein Text einfach übersetzen, das macht eine KI aber jetzt hier wirklich wichtig auf dem G-Sieben-Gipfel oder so.

00:30:31: da werden wir glaube ich bis auch weiter schon noch Menschen sehen.

00:30:34: Ich würde gerne nochmal ein anderes Thema ansprechen nämlich die Tatsache dass man zunehmend Bilder, Texte und Videos von generativer KI erstellen lassen kann Und diese Bilder, Texte, Videos, Audio-Files auch zu Zwecken missbrauchen kann.

00:30:51: Beispielsweise zu Propagandazwecken.

00:30:53: Man kann also beispielsweise Politikern Dinge in den Mund legen die sie nie gesagt haben und das verbreitet sich dann in Windeseile durch das ganze Netz Was bedeutet dass für unsere Gesellschaft vielleicht auch für unsere Demokratie?

00:31:08: Ja, also das ist ohne Zweifel eine ganz große Herausforderung und es ist eine besonders große Herausforderungen für Demokratien.

00:31:16: Wäre ich versuchen gleich näher auszuführen?

00:31:20: Es gibt in der Debatte zu dem Thema ein neues Wort, das kursiert.

00:31:24: Das glaube ich wert ist erwähnt zu werden.

00:31:27: Das ist die Infokalypse.

00:31:28: Das klingt jetzt so dunstdayartig und sehr dystopisch weil es ja letztendlich mit der Informationsapokalypse spielt.

00:31:37: Man könnte durchaus argumentieren, dass das Jahr ist in einem Prozess zur Infokalypse von besonderer Bedeutung.

00:31:46: Weil im Jahr zwei Dinge zusammenkommen.

00:31:49: Im Jahr ist einmal das Jahr, in dem KI-Technologien nun einen Niveau erreicht haben.

00:31:55: Das synthetische Medien also egal ob Ton Text Bild Video sogar Code Perfektion synthetisch erzeugt werden können, also KI generiert werden.

00:32:07: So dass sie nicht mehr von Menschen gemachten tatsächlich stattgefundenen Bildern und Videos Texten usw.

00:32:13: unterscheidbar sind.

00:32:14: das ist das eine Und das zweite was im Jahr zwanzig passiert.

00:32:18: es gibt einen ganz wesentlichen Trigger Motivator das nun für neue eben wie Sie sagten auch manipulative Zwecke einzusetzen.

00:32:26: Und das liegt darin, dass es im Jahr ist, dass das größte Walia in der Geschichte bislang knapp die Hälfte der Menschen gehen in diesem Jahr wählen.

00:32:38: Das gab es so noch nicht und es sind eben auch strategisch extrem oder geostrategisch extrem bedeutende Regionen wie Taiwan Russland Amerika werden hier gerade die Europawahlen und Indien in denen diese Wahlen stattfinden.

00:32:51: Und deshalb sehen wir, und das sehen wir auch tatsächlich, dass bildet einen ganz großen Trigger nun diese synthetischen Mediengenerative KI-Technologien eben auch zu manipulativen Zwecken einzusetzen.

00:33:06: Wir sehen einen massiven Anstieg an deepfakes, faken Jungs usw.

00:33:10: Das kommt jetzt in die Welt!

00:33:13: Jetzt versuchen wir mal den Begriff Infokalypse mit dem wegzunehmen von irgendwie Effekthascherei zu geben.

00:33:20: Ich glaube er bekommt eine Bedeutung, wenn wir ihn so definieren dass da zwei Dinge zusammenkommen.

00:33:25: Nämlich erstens ein massiven Information overload.

00:33:30: den haben wir schon lange.

00:33:32: Information overload führt dazu das nicht mehr unterscheidbar ist was wichtig ist und was nicht.

00:33:42: es gibt den wie ich finde schönen Satz im Barney Manifest der lautet incomprehensibility is the end state of information overload.

00:33:50: Also Unverständlichkeit ist der Endpunkt des Information Overloads.

00:33:56: Informationen sind dazu da, die Welt verständlicher zu machen?

00:34:00: Wenn es so unendlich viel Informationen wird, wird die Welt plötzlich eigentlich am Ende völlig unverständlich.

00:34:06: Sie wird unverständliche weil in dem Meer der Information zwischen wichtigen und unwichtigen Informationen nicht mehr unterscheidend werden kann.

00:34:15: Und nun kommt mit KI-generierten Deepfake-Fakenux noch dazu, dass wir falsche Informationen zeugen.

00:34:23: Das heißt, wir können jetzt nicht mehr unterscheiden was richtig ist und was nicht.

00:34:29: Wir können nicht mal unterscheidern was wichtig ist oder was nicht?

00:34:34: Und dann wird das Informationsökosystem in den Grundstrukturen fragwürdig.

00:34:42: Und das ist gefährlich!

00:34:43: Ich würde argumentieren, dass die eigentliche Gefahr von Deepfakes und Fake News nicht darin liegt.

00:34:51: Dass Menschen auf falsche Informationen reinfallen.

00:34:56: Das passiert auch, das ist bedauerlich aber das ist eigentlich nicht die eigene Bedrohung.

00:35:00: Die eigentliche Bedrohnung liegt darin, dass Deepfake und Fake news dazu führen, dass wir überhaupt nichts mehr glauben!

00:35:09: Das heißt für uns gilt als Rezipienten sozusagen eine Beweislastumkehr, nenn ich es mal.

00:35:14: Wir müssen in Zukunft davon ausgehen dass alles was wir sehen lesen hören gefälscht sein könnte?

00:35:21: Das ist die Gefahr!

00:35:22: Das würde ich sagen das ist genau das was passieren wird.

00:35:24: also wenn wir nichts dagegen tun... Dass wir eigentlich weil wir eben nicht mehr wissen können.

00:35:29: ist das jetzt echt oder nicht Davon ausgehen?

00:35:32: also hinter allem das fragt man sich das könnte das könnte Fake sein Das ist die Gefahr.

00:35:38: Dann wird das Informationssystem grundlegend brüchig und warum ist es eine so große Gefahr insbesondere für Demokratien?

00:35:47: Oder was kann ich dann machen, wenn ich an diesem Zustand komme dass ich eigentlich nicht mehr sagen kann was ist wichtig und was ist richtig, dann habe ich einen Mehren Information und das führt dazu dass sich aus diesen Mehren Informationen jeder einfach das herauspecken kann was er als wahr und wichtig und relevant empfindet oder empfinden möchte.

00:36:07: Also ich sage dann immer, Information wird hierarchielos!

00:36:12: Und wenn die Information hierarchilus ist kann sich jeder rauspecken was immer er und sie will.

00:36:18: Genau das sehen wir gerade in diesen immer weiter sich Particularisierenden Interessen, die in einem Konflikt miteinander stehen und diese ja überhaupt nicht mehr auf die Basis ihrer Argumentation einkönnen.

00:36:31: Es ist ja nicht so, dass sie sich irgendwie einigen können.

00:36:33: finden wir jetzt impfen gut oder schlecht?

00:36:35: finden wir Trump gut oder schlecht sollen ausländer raus oder rein also?

00:36:38: sondern der Ausgangspunkt auf dem alles denken ausbaut das am Ende zu einem Argument zu einem Schluss kommen könnte.

00:36:46: schon dort stehen die Menschen auf ganz unteren Böden und haben sich sozusagen andere können sich aus diesem aus dieser Hierchidosinformation unterschiedliche Realitäten zusammenbauen.

00:36:58: Und das ist eine besondere Gefahr für Demokratien, weil Demokratien davon abhängig sind dass Gesellschaften in einem diskursiven Prozess miteinander zu einer gemeinsamen oder zumindest mehrheitsfähigen Lösung kommen.

00:37:16: und das wird natürlich massiv erschwert wenn wir noch nicht mal auf sozusagen informationsseitig auf dem gleichen Boden stehen.

00:37:24: Und da stellt sich natürlich an der Stelle genau die Frage, wie gehen wir als Gesellschaft damit um mit diesem Problem?

00:37:30: Mit dieser Tendenz?

00:37:32: und ich glaube, da ist Europa vielleicht sogar auf einem guten Weg.

00:37:36: Also während wir ja in der Ökonomisierung der KI ein bisschen hinterher hinken sind wir in der Regulierung von KI eigentlich relativ weit vorne mit dabei.

00:37:45: es gibt neuerdings den

00:37:47: EU

00:37:48: AI Act.

00:37:50: das ist im Grunde eine Regelung die versucht, der KI gewisse Schranken zu setzen.

00:37:55: Ist das der richtige Weg um genau diesem Problem zu begegnen?

00:37:59: Ja also es ist der erste startenübergreifende Vorstoß künstliche Intelligenz zu regulieren.

00:38:05: Die erste Frage ist sollten wir regulieren ja oder nein?

00:38:09: Regulierung klingt immer so negativ nach Einschränkungen und Nachverhinderung

00:38:14: Richtig.

00:38:14: Und diese Bedeutung hat es traditionell auch, aber dann würde ich wieder sagen wir müssen jetzt eben unterscheiden.

00:38:20: also künstliche Intelligenz ist ein Paradigmenwechsel und wenn ich vor paradigmatisch denke dann kann ich durchaus argumentieren Regulierung ist etwas was sich abbauen sollte und tatsächlich kommen wir ja daher.

00:38:31: die Regulierungen war eigentlich das Ziel weil Regulierungs immer als Bremse des Fortschritts verstanden wird.

00:38:38: Also es ist eine Bremsen zu einer besseren Welt zu kommen.

00:38:43: Deshalb sollten wir es abbauen, mal ganz sozusagen High Level betrachtet.

00:38:48: Wenn der technische Fortschritt aber nun so schnell und so radikal voranschildt das praktisch alles möglich wird dann müssen wir Regulierung.

00:38:58: würde ich auch mit denen ganz anders denken weil dann wandert ja die Verantwortung immer mehr auf unsere Seite.

00:39:04: Wir müssen nun bestimmen, was soll technischer Fortschritt können?

00:39:08: In welche Richtung soll er gehen?

00:39:09: Damit Regulierungen nicht mehr zu einer Bremse sondern zu einer Gestaltungsmöglichkeit dass sie die Technologien so nutzen das wir Sinnstiften sind und dass Sie tatsächlich in der Welt besser machen oder nicht schlechter machen wie zum Beispiel was wir gerade diskutiert haben.

00:39:22: also steigt die Notwendigkeit zur Regulierung und wir müssen glaube ich auch Regulieren anders verstehen als wir es zuvor getan haben.

00:39:30: Das ist aber glaube ich in Europa eigentlich Mehrheitsmeinung.

00:39:32: Also es gibt auch durchaus noch starke bedeutende Meinungen, Technologie nach vielen Menschen die sagen wir müssen eigentlich Regulierung verhindern.

00:39:40: Gut, aber der EUAI-Eck, der ist mit überwältigender Mehrheit abgesegnet worden?

00:39:44: Richtig.

00:39:45: also genau das ist hier denke ich in der Oberkommunikation wirklich eine März Meinung und Wir sind in einem Prozess der Regulierungen eingestiegen.

00:39:55: Regulierung kämpft mit der Herausforderung, dass sie immer strukturell langsamer ist als sich Technologie entwickelt.

00:40:02: Das auch wieder ein Novum.

00:40:04: Im ersten Mal in der Geschichte entwickeln sich Technologien schneller weiter.

00:40:08: Als menschen- und menschliche Systeme darauf reagieren, adaptieren, sie überhaupt verstehen können.

00:40:15: Deshalb ist natürlich auch Regulierungen, das ist eine Form der Reaktion auf einer Technologieentwicklung, strukturiell.

00:40:20: immer hängt hinterher.

00:40:23: Der EUAI Act ist aber insofern würde ich sagen, tatsächlich erstmal ein erster ja gute Wurf weil er so konzipiert ist dass er dieses strukturell langsamer sein versucht irgendwie einzubauen.

00:40:39: Er reguliert nämlich nicht Technologien, er sagt nicht diese Art von Technologie ist verboten oder sollte nur unter dem Bestimmung erlaubt sein.

00:40:46: und dies erlaubts das würde keinen Sinn machen nächstes Jahr oder schon im halben Jahr obsolet, was sich die Technologie so schnell verändert.

00:40:54: Er reguliert Risiken.

00:40:56: Er sagt na ja wie wollen wir denn eigentlich als Gesellschaft leben?

00:41:01: Wollen wir in einer Gesellschaft leben wie zum Beispiel in China die Social Scoring praktiziert also die KI Systeme benutzt um Menschen praktisch twenty four seven to tracken.

00:41:11: Willst du mir den Exkurs erlauben?

00:41:12: Ich habe mich mal genauer angeschaut.

00:41:14: Was wird denn da alles gescored?

00:41:15: hochinteressant.

00:41:16: es wird zb gescord.

00:41:18: Wie oft besuche ich meine Großeltern?

00:41:21: Es wird gescored, betrüge ich beim online Kartenspielen.

00:41:26: Und die eigentliche Frage ist... Wenn nicht das Score, dann muss sich ja wissen wie oft jemand zur Großmutter geht.

00:41:34: Ob jemand bei einem Online-Kartenspiel schummelt.

00:41:38: Das macht mal deutlich, wie tief die Überwachung ist dass so etwas scorebar wird.

00:41:44: Die EU hat zum Beispiel In der UI Act wurde zum Beispiel gesagt, na so etwas wollen wir hier nicht und deshalb sind Systeme die das ermöglichen verboten.

00:41:53: Das heißt, der UI act reguliert nicht Technologien sondern ich sage immer erregulierte Risiken.

00:41:59: Wir wollen das Risiko vermeiden dass ja Social Scoring entsteht und deshalb ist biometrische total Überwachung verboten zb Und ein wichtiger erster Schritt.

00:42:11: in Bezug auf das Thema Infokalypse, was wir gerade diskutiert haben, Deep Fakes usw.

00:42:17: regelt der EU AI-Act dass KI generierte Medien also synthetische Medienhalte als solche gelabelt sein müssen.

00:42:26: Das heißt wenn ich jetzt einen KI generiertes Video sehe wird also nach... Er ist ja verabschiedet und muss noch voll in Kraft treten.

00:42:34: Es dauert auch nochmal.

00:42:36: Muss eigentlich immer angezeigt werden durch so So ein Waterlabel, Wasserkennzeichen oder was auch immer.

00:42:42: Das ist KI generiert!

00:42:44: Aber da es zu befürchten dass diejenigen die einen Interesse an Manipulation haben natürlich darauf verzichten werden?

00:42:49: Natürlich ja.

00:42:50: und was dann entsteht ist eben ein Katz-und Maus spielen in der Technologie das man dann eben wiederum KI Tools baut die irgendwie Zum Beispiel Medien halten danach Scan, ob sie KI generiert sind oder nicht.

00:43:05: Weil natürlich wenn ich eine manipulative kriminelle Absicht habe dann werde ich das auch weiterhin tun.

00:43:10: und by the way der KI-Akt schließt explizit staatliche Akteure aus.

00:43:15: Wenn also CIA oder die russischen Geheimdienste Manipulationen betreiben können Dann ist es weiter... unreguliert.

00:43:24: Also gibt es da sicherlich noch weiteren Verbesserungsbedarf?

00:43:27: Ich glaube eins steht fest KI wird unseren Alltag zunehmend bestimmen, da braucht man glaube ich gar nicht lange darüber zu diskutieren.

00:43:35: vielleicht abschließend noch haben Sie ein Tipp für einen möglichst gelassenen Umgang mit dieser Entwicklung?

00:43:44: Gute Frage!

00:43:47: Ich habe das Gefühl, einen gelassenen Umgang damit zu haben.

00:43:52: Ich glaube der hat viel damit zu tun dass ich der Überzeugung bin was wir eingangs diskutiert haben... ...ich als Mensch bin etwas strukturell ganz anderes als diese Maschine.

00:44:03: Was auch immer sie kann und das macht mich sehr gelassen!

00:44:08: Ich glaube mit Gelassenheit liegt man grundsätzlich ganz gut.

00:44:11: Prof.

00:44:12: Dr.

00:44:12: Seat Mahini im HKA-Podcast.

00:44:15: Ich habe es anfangs erwähnt, SeatMahini macht selber einen wie ich finde sehr höherungswerten Podcast der da heißt auf der Kippe Philosophie für das digitale Zeitalter Wer sich für KI Technik, Philosophies und diese Themen interessiert Der sollte da unbedingt mal reinhören.

00:44:31: Wir freuen uns natürlich auch, wenn ihr den HKA-Podcast abonniert zu finden bei Apple Podcasts oder Spotify und natürlich auch unter www.h-ka.de.

00:44:41: Ich bin Jan Holthaus, danke fürs Zuhören und bis

00:44:45: zum nächsten Mal!