191. KI vs. EU AI Act

00:00:02: Hallo, mein Name ist Janine Krüger und ich bin die Stimme des Anleger-Podcasts des Effektenspiegelmagazins.

00:00:08: Wir sind mehr als nur ein Aktienpodcast!

00:00:10: Wir stehen für unabhängigen Börsenjournalismus – und das seit deiner Zeit in den letzten Jahren.

00:00:14: Die Nachfrage nach künstlicher Intelligenz nimmt immer weiter zu und inzwischen führt beinah kein Weg mehr an KI vorbei.

00:00:20: Dabei machen auch immer wieder Cyberangriffe via künstliche Intelligenzen oder auch KI generierte Fake News Schlagzeilen.

00:00:28: Wie reguliert und kontrolliert man das Ganze?

00:00:30: Der EUAI-Akt ist ein erster Ansatz.

00:00:33: Doch was beinhaltet er, und was bedeuten die Gesetze für KI-Unternehmen konkret?

00:00:49: Über diese Fragen möchte ich heute mit Herrn Herrmann vom Softwareentwickler Alle Herzen sprechen.

00:00:54: Hallo Herr Herrmann!

00:00:55: Ich freue mich Sie heute im Podcast begrüßen zu dürfen.

00:00:58: Hallo guten Tag, danke für die Einladung.

00:01:00: Herr Hermann, die großen Player in Sachen KI finden sich ja doch noch in den USA.

00:01:06: Wie is Deutschland denn... positioniert in Sachen KI?

00:01:11: Ich glaube, da gibt es ein bisschen Schieflage in der Wahrnehmung.

00:01:16: Deutschland ist deutlich weiter als die öffentliche Diskussion manchmal vermuten lässt, vor allem in der KI-Anwendung.

00:01:22: natürlich nicht so sehr als Systemanbieter aber immerhin ein forty-fünf Prozent der Unternehmen ab.

00:01:27: zwanzig Beschäftigten setzen inzwischen KI ein weitere achtundvierzig Prozent sind wir schon recht weit gekommen Planen oder diskutieren deren Einsatz und für siebenundsiebzig Prozent der Unternehmen die KI bereits einsetzen hat sich dadurch ihre Wettbewerbsposition verbessert.

00:01:43: KI ist also in der deutschen Wirtschaft angekommen, ich stimme Ihnen zu!

00:01:47: Die KI-Anbieter sitzen im Wesentlichen in den USA und mittlerweile auch in China.

00:01:53: Auch die chinesische KI-Industrie ist fast ebenbürtig mit der amerikanischen.

00:01:58: Da haben wir in Deutschland sicher noch große Lücken.

00:02:03: Gibt es denn eine Chance auf KI-Entwicklung Made in Germany oder hängen wir da schon, ich will's mal böse sagen zu weit hinterher?

00:02:13: Die Antwort ist ja ein.

00:02:15: Vielleicht sollten wir zuerst definieren was wir unter KI Made In Germany tatsächlich verstehen oder wo wir Deutschland positionieren können und wo noch Potenziale liegen und wo vielleicht auch der Zug schon abgefahren ist.

00:02:25: wenn die Frage lautet ob Deutschland kurzfristig die amerikanischen oder chinesischen Hyperscaler Frontierlabs bei Kapital-Rechenleistung und Basismodellen überholt, da wäre ich deutlich skeptisch.

00:02:38: In den Jahren zwanzig vierundzwanzig hat das Danford AI Index vierzig der sogenannten notable AI Models, also die wesentlich unternehmensprägend sind, branchenprägende aus den USA limitiert und da gab es genau drei in ganz Europa.

00:02:54: Von zwanziv fünfundzwzig haben die privaten KI Investitionen in den USA allein rund knapp dreihundert Milliarden US-Dollar ausgemacht.

00:03:04: Das sind Größenordnungen, die man nicht mal mit einem einzelnen Förderprogramm in der EU aufholt.

00:03:09: Aber KI Wertschöpfung geht deutlich weiter und besteht eben nicht nur aus diesem Basismodell.

00:03:14: Deutschland besitzt enorme Assets bei Industrieprozessen, Engineering, Unternehmensdaten vielleicht etwas kontraintuitiv auch regulierten Branchen und komplexen Bestandslandschaften.

00:03:25: Und genau da kann auch wirklich eigene europäische Wertschöpfung im KI-Bereich entstehen.

00:03:30: Also ich rede über spezialisierte Industriekai, aber auch gavangans für sichere Infrastrukturen, Integrationen und eben der dem industriellen Einsatz agendischer Systeme denn da ist das Rennen noch total offen.

00:03:43: Auch die europäischen Recheninfrastruktur wird ausgebaut.

00:03:46: mit Jupiter und den deutschen AI Factories entstehen gerade Absolut konkurrenzfähige und sehr leistungsfähige Kapazitäten für Forschung, für Start-ups Mittelstand und Industrie.

00:03:57: Und gleichzeitig ist ja diese Nachfrage nach digitaler Souveränität total real!

00:04:01: Der Bitcoin hat schon im Jahr zwanzig, schwimmendzwanzig berichtet dass dreiundneinzig Prozent der befragten Unternehmen einen KI-Anbieter aus Deutschland oder der EU bevorzugern würden wenn Leistungen und Preis wettbewerbsfähigen mit amerikanischen Modellen sind.

00:04:15: Die chinesischen Modelle werden doch noch deutlich skeptischer gesehen.

00:04:18: Für mich bedeutet Souveränität dabei nicht unbedingt Autarkie, also das Unternehmen muss nicht jedes Modell selbst entwickeln.

00:04:24: Das ist auch unerlässlich.

00:04:25: Da sind die Amerikaner tatsächlich und die Chinesen uns deutlich voraus was die Performance der Entwicklung angeht.

00:04:32: Aber souverän ist auch, wer eine Technologie nutzen kann ohne seine Prozesse.

00:04:37: Seinen Wissen und seine Handlungsfähigkeit dauerhaft an einen einzigen Anbieter zu binden oder noch schlimmer ein Wissensabfluss zu unterstützen in die Modelle hinein was das Intellektuelle Property der deutschen Weltmarktplayer immer nimmt.

00:04:53: Und dass souveräenität heißt also nicht zwangsläufig autarki sondern souverain ist wer KI im Geschäftskontext einsetzen kann, ohne sich von einem einzelnen Anbieter oder einer einem Anbiederkluster in einem bestimmten Land abhängig zu machen.

00:05:06: Und was genau beinhaltet jetzt der EU-AI-Akt?

00:05:10: Können Sie uns da unseren Höreren und Hören einen kurzen Überblick geben?

00:05:15: Ja also in der AI Act in zehn Sätzen.

00:05:19: Der AI Act soll erst mal nicht KI generell verbieten oder einschränken oder auch erlauben.

00:05:23: Er schafft eher einen einheitlichen europäischen Rechtsrahmen bei dem das Risiko eines Einsatzes bestimmt, welche Regeln für diesen individuellen Einsatz gelten.

00:05:34: Klingt erst mal kompliziert ist aber eigentlich ganz einfach.

00:05:36: dafür unterscheidet die Verordnung nämlich mehrere Eben.

00:05:39: Es gibt Verbote und Einschränkungen für bestimmte Praktiken Und für andere Systeme geltentransferenz Pflichten Für Hochrisikoanwendung gelten besonders strenge Anforderungen und für die General Purpose AI Modelle also die großen Modelle Die für unterschiedlichste Anwendungen eingesetzt werden können, wie zum Beispiel Open-AIS GPT-Modelle oder Anthropics Clods oder Fable-Modelle.

00:06:02: Für die gibt es ein eigenes Pflichtenregime.

00:06:04: Das trifft aber die wenigsten Unternehmen, denn die wenigste Unternehmen betreiben eigene General Purpose AI Modell.

00:06:08: Wichtig dabei ist der AI Act, der EU reguliert nicht einfach künstliche Intelligenz.

00:06:13: Er reguliert viel mehr Rollen und Einsatzkontext und die daraus entstehenden Risiken.

00:06:19: Das gleiche Basismodell kann also in einem harmlosen internen Anwälungsfall völlig anders zu bewerten sein als in der Anwendung für die Beurteilung von zum Beispiel Kreditwürdigkeit, Personalentscheidungen oder im Einsatz im Rahmen der kritischen Infrastruktur.

00:06:34: Und dieser AI-Akt, das steht nicht allein.

00:06:36: Wenn personenbezogene Daten verarbeitet werden dann bleibt ja auch die DSGVO oder europäischen Kontext GDPR relevant.

00:06:44: Im Finanzsektor gibt es weiter eigene Regulatorik wie DORA und weitere Aussichtsregeln.

00:06:50: Der AI-Akt ist also eine zusätzliche regulatorische Ebene, die auch planerische Sicherheit für den Einsatz von der AI geben soll und kein Ersatz für bestehendes Recht.

00:07:02: Wie stellt man fest, welche Sicherheitsvorkehrungen getroffen werden müssen?

00:07:06: Also welches Risiko von der jeweiligen Anwendung oder vom jeweilige Einsatzbereich ausgeht?

00:07:12: Legt das fest und wie legt man es dann konkret fest?

00:07:14: Tatsächlich gibt es im EU-AI Act sehr klare Guidance darüber.

00:07:21: Und es gibt auch Entscheidungsbäume, an denen man sich entlanghangeln kann um die Risikoklasse des Einsatzes, des individuellen eigenen Einsatzes herauszufinden und daraus leiten sich dann entsprechende Regelungen ab und Richtlinien ab, die man dann eine zu halten hat.

00:07:40: Man hört immer wieder, dass gerade die USA was das Training auch von KI-Modellen angeht ein bisschen lockerer ist in den Vorschriften wo die Daten herkommen.

00:07:49: Was bedeutet das für Konzerne eben wie JetGPT oder Anthropics Cloud konkret?

00:07:55: dann jetzt für den Einsatz in der EU?

00:07:57: Das ist eigentlich relativ einfach.

00:08:00: ein Unternehmen, einen Anwender in der EU, der seine Daten in ein solches Modell hineinträgt um irgendeine Anwendung damit durchzuführen.

00:08:11: Der muss sicherstellen was die Daten entsprechend der europäischen beziehungsweise deutschen Datenschutzgrundverordnungen eingesetzt werden.

00:08:19: Darauf haben aber auch die amerikanischen General Purpose Modellanbieter wie OpenAI und Anthropics schon reagiert.

00:08:26: OpenAI bietet einen EU Endpunkt für ihre Frontiermodelle an, die sich an die GDPR Conventions halten.

00:08:35: Also wichtig ist dass man es dann über das richtige Eingangstor benutzt weil diese Eingangs-Tore eben die entsprechende Compliance zumindest schon mal für den Sichergestellten nicht abfluss in die Trainingsmodelle oder zumindest zugesicherten nicht ab fluss in der Trainings Modelle sicherstellen sollen.

00:08:51: und bei Anthropic haben das noch nicht.

00:08:54: Aber in der Kooperation mit Amazon über Bedrock rollen die eben auch gerade einen sicheren EU Endpunkt.

00:09:02: Die andere Variante für deutsche Unternehmen, das wird immer mehr unterschätzt ist dass es immer leistungsfähigere Modelle gibt, die man auf immer unanspruchsvoller Hardware betreiben kann.

00:09:12: Das heißt auch das Thema und grade im kritischen Infrastrukturbereich ist ein wichtiges Thema.

00:09:17: da geht es um die Kontrolle der Infrastruktur.

00:09:19: an der eingesetzten Infrastruktur gibt es immer mehr Bestrebungen tatsächlich, Modelle selbst zu betreiben.

00:09:25: Das heißt in einem eigenen Rechenzentrum oder auf eigener Hardware diese Modelle on-premise in einer geschützten Umgebung der eigenen kontrollierten Infrastruktur einzusetzen.

00:09:37: Das war vor zwei Jahren noch völlig undenkbar weil diese Flagshipmodelle eben ganze Rechencenten brauchten.

00:09:44: Es soll jetzt kein Advertorial werden aber Apple hat gerade die nächste Generation seiner Leistungswegen Desktoprechner vorgestellt Und ein Cluster von vier, fünf solcher Macs ist schon durchaus in der Lage, ein sehr leistungsfähiges Modell auch lokal zu betragen.

00:10:00: Was bedeutet das?

00:10:01: Der EUAI eckt Ihrer Meinung nach für die Konkurrenzfähigkeit mit den USA?

00:10:08: Zieht Ihre Frage darauf ab ob dass die Konkurenzfähigkeit mit den U.S.A.

00:10:11: beeinträchtigen könnte?

00:10:13: oder dann ist die Antwort ja denn Regulierung kann Innovation bremsen Grundsätzlich, insbesondere wenn sie unklar redundant oder teuer in dieser Umsetzung ist.

00:10:23: Und interessanterweise hat ja die EU auch mit der jüngsten Fristverschiebung in den Gültigkeitsterminen für den EUI Act selbst das teilweise anerkannt.

00:10:32: Also Gründe wurden unter anderem verspätete Standards und Unterstützungsinstrumente und hohe Drohende Implementierungskosten genannt.

00:10:39: aber ich halte es so einfach zu sagen regulatorik Und Europas KI Rückstand ist dem AI-Act zu schreiben.

00:10:47: Der Abstand bei Venture Capital Rechenleistung, Hyperscaler und Frontiermodellen existiert lange vor den URI Act.

00:10:54: allein die privaten KI Investitionen in den USA.

00:10:57: Ich hatte es schon gesagt knapp dreihundert Milliarden Dollar im Jahr zwanzig fünfundzwanzig zeigt dass wir hier über ein breiteres Wettbewerbsproblem sprechen.

00:11:05: Meine Position ist deshalb ein bisschen zweigeteilt.

00:11:07: Regulierung darf nicht zum europäischen Ersatz für Innovationen werden Aber fehlende Regulierung, wie sie in den USA existiert ist ebenfalls keine nachhaltige Innovationsstrategie.

00:11:18: Wenn Unternehmen gerade Unternehmen die agentische KI produktiv einsetzen wollen dann brauchen Sie Vertrauen, Verantwortlichkeit und verlässliche Rahmenbedingungen und auch gültige Kontrollmechanismen die Bestand haben auf die man sich verlassen kann.

00:11:31: deswegen gucken ja interessanterweise so viele von dem Frontiermodell anbietern aus den USA in die EU und gar nicht mit.

00:11:39: Oh Gott, jetzt kommt die böse Regulatorik aus der EU und die macht uns das ganze Geschäft kaputt.

00:11:43: Sondern da ist ein Gesetzgeber und einen governing body, der jetzt regulatorisch schafft.

00:11:50: Und diese regulatorisch Schaft ja auch Rechtssicherheit.

00:11:54: Ich glaube nicht dass die USA dem EEI akkupieren werden.

00:11:57: Das ist nicht deren Stil von Government.

00:12:01: Aber ich denke, dass eine gute und verlässliche Regulatorie auf mit Augenmaß Ja, durchaus am Ende zu einem Wettbewerbsvorteil werden kann.

00:12:11: Wobei man gerade mit Blick auf die EU oder auch Deutschland ist immer wieder das Thema Bürokratieaufwand ein Hemmnis für viele Unternehmen – das sagen sie ja auch ganz klar!

00:12:21: Was bedeutet der Bürokrantieaufwand?

00:12:24: Mit Blick auf den EUAI-Akt wird es wieder mehr?

00:12:28: Naja also klar, es wird immer erst mal mehr.

00:12:32: Wenn ich gar keine Regulatorik habe muss ich mir über nichts Gedanken machen.

00:12:36: Es ist jetzt aber auch nicht so, dass der EU-AI-Act eine Serie von komplexen Micromanagements ausrollt.

00:12:42: Sondern er sagt eigentlich in sehr grob geschnittenen Kategorien Wenn deine KI die du einsetzen möchtest und ihre Entscheidung einen Menschen betrifft dann hätten wir gerne... Lockfalls aus dem man nachvollziehen kann auf welchem Datenbasis mit welcher Entscheidungsmetrik dieser Entscheidung nachher abgeleitet worden ist und ich finde das nicht so viel Verlangen.

00:13:03: überlegen wir es mal an einem Beispiel.

00:13:05: Ein einfaches Consumer-Dalein irgendwo bei einer Bank fragt das an.

00:13:09: Sie fragen das vielleicht online über das Bankenportal und sie kriegen in zwei Minuten eine Antwort.

00:13:14: Dann ist die wahrscheinlich relativ hoch, dass das kein Bankberater im Detail geprüft hat sondern, dass da ein Algorithmus aktiv war.

00:13:21: der hat unterschiedliche Datenpunkte zusammengezogen und am Ende hat dann eine Entscheidung getroffen und dies entweder positiv für sie oder negativ.

00:13:27: Wenn er positiv ist werden sich wahrscheinlich nicht so viele Gedanken darüber machen weil sie haben ja ihr Ziel erreicht.

00:13:31: im Start prima alles klar weiter gehts.

00:13:33: Wenn er aber negativ ist, dann möchten Sie nachvollziehen können warum der Anbieter, der Ihnen eigentlich nach Ihrer Meinung nach dieses Darlehen hätte gewähren müssen sich dagegen entschieden hat.

00:13:43: Und deswegen ist eine Transparenzpflicht in der Nachvollziehbarkeit nicht zu viel verlangt sondern sie gibt allen Beteiligten Rechtssicherheit da entsprechend accountable zu bleiben.

00:13:55: Wie sollen denn Verstöße kontrolliert werden?

00:13:58: Also ist das dann, gibt es da überhaupt schon einen Ansatz.

00:14:00: Ist das so dass ich im Grunde dann eine Beschwerde einlegen muss und daraufhin wird der Einsatz von KI kontrolliert und dann dementsprechend auch bei Verstößen geahndet?

00:14:11: weil bei der Summe der KI Anwendungen die ja heutzutage schon täglich getätigt oder genutzt werden dürfte eine Kontrolle vermutlich eher schwierig werden oder?

00:14:23: Ja Da stimme ich hinzu.

00:14:24: Das ist tatsächlich eine enorme Herausforderung und kein Regulator wird dann auch jede einzelne Entscheidung eines KI-Agenten in der Nachtzeit beobachten können, das ist auch gar nicht das Modell des AI-Aktes.

00:14:33: Es geht im Wesentlichen um Marktüberwachung nachweise beschwerde Wege, dann Prüfungen und bei bestimmten System eben auch um Komformität und Dokumentarzerumstände.

00:14:44: In Deutschland zum Beispiel übernimmt seit Ende Juli XX, also ganz frisch die Bundesnetzagentur diese zentrale Rolle als Marktüberwachungsbehörde.

00:14:52: Wenn ich sage gleichzeitig die zentrale Anlaufstelle und Beschwerdestelle, das heißt wenn sie um bei unserem Beispiel zu bleiben.

00:14:57: Sie haben diese Darlehen nicht bekommen und sie denken dass da irgendwas nicht mit rechten Dingen zugegangen ist dann ist die Bundesnetzagentur erstmal in ihrer erste Ansprechpartner.

00:15:05: Gleichzeitig ist die Aufsicht aber bewusst hybrid organisiert.

00:15:08: im bereits stark regulierten Bereichen bleibend etablierte Fachaufsichten zuständig also im Finanzsektor zum Beispiel die BAFIN Die erst mal diesen regulatorischen Bereich genau überblickt.

00:15:18: Für General Purpose Modelle, also die großen offenen Modelle liegt ein großer Teil der Aussicht auf EU-Ebene beim dortigen AI Office.

00:15:26: Also nochmal eine Flughöhe drüber gelagert.

00:15:29: Diese Behörden können dann im Beschwerdefall Unterlagen verlangen, Beschwerden untersuchen und die Einhaltung der gesellschaftlichen Anforderungen überprüfen.

00:15:38: Sie gucken jetzt nicht in jedes Unternehmen in Echtzeit hinein und prüfen jede oder überwachen jede KI Entschade Und die Sanktionsmöglichkeiten sind ganz erheblich, entscheidend finde ich aber weniger die mögliche Höhe einzelner U-Skelle als die technische Konsequenz daraus.

00:15:54: Die Aufsicht kann ja nicht dadurch skalieren dass immer mehr Menschen immer mehr KI Ausgaben lesen oder Agenten versuchen in Echtzeit zu übermachen.

00:16:01: das ist ja genau kontra intuitiv.

00:16:04: zu der Skalierung die KI bietet als Möglichkeiten der Technorierenden.

00:16:08: Sie können also nur skalieren.

00:16:10: die Aussicht wenn Unternehmen selbst Dauerhaft belastbare technische Nachweise erzeugen.

00:16:16: Also welche Policygeld, welche Daten wurden verwenden?

00:16:19: Welche Freigabe wurde gegeben, falls eingeholt?

00:16:21: Welchen Aktionen wird es tatsächlich ausgeführt?

00:16:23: und deshalb werden sogenannte Audit Trails und technisch durchgesetzt Regeln die dann eben auch protokolliert werden bei dem Einsatz der agendischen Systeme so wichtig.

00:16:34: Meinen Sie denn das also?

00:16:36: sie hätten ja jetzt gerade schon im Grunde gesagt dass die US-Regierung, den EUAI-Eck nicht kopieren wird.

00:16:42: Aber glauben Sie denn das gerade auch mit Blick auf die großen KI-Modelle andere Regierungen nachziehen könnten und da doch ein bisschen mehr Regulierung entstehen könnte?

00:16:55: Ja also es kam grad bei Podcast immer schwierig sich auf aktuelle Dinge zu beziehen aber es kam tatsächlich grade.

00:17:02: gestern ging's durch die Presse.

00:17:04: einen großer Anthropic Wissenschaftler hat Öffentlichkeitswirksam gekündigt Weil er gesagt hat, die großen Modellanbieter spielen hier mit dem Feuer und intern zirkulieren Papiere.

00:17:14: Die durchaus davon ausgeht dass die KI, es geht ja um diese General AI einen Zustand von Selbstwahrnehmung und Bewusstsein erlangt und dann entscheidet die Menschen alle auszurotten und das ist realistisch bis Ende des Jahrzehnts.

00:17:30: Endes Jahrzehn sind jetzt nicht mehr soweit weg!

00:17:32: Das war natürlich sehr pressewirksam und jetzt reden alle über Regen auch in den USA nochmal anders.

00:17:38: Aber die Tatsache ist, die USA regulieren bereits.

00:17:41: Sie verfolgen dabei nur einen deutlich anderen Ansatz als Europa.

00:17:45: Auf der Bundesebene setzt sich die aktuelle US-Regierung ausdrücklich auf einen sehr innovationsfreundlichen und damit wenig belastenden Rahmen vielleicht manchmal etwas zu wenig belasten.

00:17:54: Im März, sechsundzwanzig hat das weiße Haus erst in einer nationalen KI Legislative ein neues Framework vorgelegt Das starke Zölderale Leitplanken mit einem Fokus auf Wettbewerbsfähigkeit und Innovation verbinden soll.

00:18:08: In den USA finden in der Bundesstaatenebene längst umfangreiche KI-Gesetzgebung im Staat.

00:18:15: Es gibt eine monatlich aktualisierte Datenbank mit dort auf Landesebene eingeführten und verabschiedeten KI Gesetzen aus diesen einzelnen Bundesstaaten, da geht es von Diskriminierung zu Datenschutz, zu Responsible Users im verantwortungsvollen Einsatz von KI bis eben auch zur staatliche Aufsicht privater Nutzung.

00:18:35: Das ist schwierig insofern dass es nicht eine verlässlichen übergeordnete Regulatur gibt sondern da jeder Bundesstaat so ein bisschen sein eigenes Zübchen kommt.

00:18:43: Ich glaube trotzdem nicht das die USA und hatte vorhin schon gesagt den Europäischen AI Act einfach kopieren werden.

00:18:49: Wahrscheinlicher ist ein stärker sektoraler und etwas fragmentierterer Ansatz, also das was sie schon machen nur nochmal ein bisschen weiter gedacht.

00:18:57: Also mehr Regulierung über Haftung –das ist typisch für die USA– Verbraucherschutz, Kinder-und Datenschutz.

00:19:05: Und dann haben wir von gesehen an manchen Punkten den Aspekt der nationalen Sicherheit und andere konkrete Anwendungsfelder.

00:19:12: Das entspricht eher dem bisherigen regulatorischen Ansätzen in anderen Sektoren der USA.

00:19:18: zu erwarten, dass sie das auch in der KI-Entwicklung anwenden werden.

00:19:23: Aber eine Entwicklung halte ich für nahezu sicher!

00:19:25: Und die wäre?

00:19:26: Je stärker sich KI vom Werkzeug zum handelnden Akteur entwickelt, desto größer wird überall weltweit der politische Druck, die Grenzen dieser Handlungsmacht zu definieren und auch zu begrenzen.

00:19:38: Die Debatte lautet deshalb langfristig nicht mehr Regulierung oder keine Regulierungen sondern vielmehr welche Regulierungschaft soviel Planungssicherheit für Unternehmen und Sicherheit für die Menschen, die in dieser Unternehmenseinsatzen betroffen sind ohne die Innovation unnötig zu verlangern.

00:19:57: Vielleicht zum Abschluss?

00:19:58: Wo sehen Sie die EU in Sachen KI in den kommenden Jahren?

00:20:02: Wo entwickelt sie sich hin auch mit Blick auf Regulatorien?

00:20:07: Ich denke, dass wir mit dem EU-AI Act ein starkes Framework vorgelegt haben.

00:20:11: Der weiß halt.

00:20:12: letzter Schluss?

00:20:13: Nein!

00:20:14: Aber wir haben zumindest mal einen Framework das jetzt über der Rollout passiert in den nächsten zwei Jahren erst bis zu seiner Vollausbaustufe.

00:20:23: Den Unternehmen erstmal einen Handlungsrahmen vorgibt und ihnen die Zeit gibt sich ihrer KI Anwendung auf diese Regeln einzustellen.

00:20:31: Das ist vor allem... Governance und Dokumentationspflicht also nachzuhalten, wo KI Entscheidungen getroffen hat.

00:20:39: Und auf welcher Grundlage.

00:20:41: und das eben sauber zu protokollieren ist technische Regulatorik die dann noch einwirkt.

00:20:46: aber im Wesentlichen wird sich daraus noch Detail arbeiten, werden sich ableiten.

00:20:52: Die EU wird noch nachregulieren an der einen oder anderen Stelle das ist auch ganz normal aber ich denke ein weiterer großer Wurf wird ausbleiben.

00:20:59: wir sind auf jeden Fall jetzt schon mal in einem Framework und da ist die EU tatsächlich weltweit führend dass Unternehmen eine stabile regulatorischen Rahmen bietet um zu sagen ihr wollt KI einsetzen und das ist okay aber bitte macht es so dass wir im Zweifelsfall oder im Konfliktfall nachvollziehen können wie es zur Entscheidungen kam besonders wenn sie Menschen mit.

00:21:20: Das ist, ehrlich gesagt eine gute Sache.

00:21:23: Das ist eine Sache die auch als Bewusstsein in den USA immer mehr ankommt.

00:21:27: Weil die Menschen fordern das immer mehr!

00:21:29: Wir haben unglaubliche Displacement-Bewegungen erwartet werden ob sie in dem Umfang kommen wie Sie die großen Open Frontiermodelle an Bieter predigen dass wir hier vierzig Prozent Jobverlust weltweit in allen Wissensberufen haben werden die versuchen ihre Modelle zu verkaufen.

00:21:47: Also da ist auch viel Marketinggetöse dabei, was KI tatsächlich kann und das es eine reale Gefahr für Berufe ist.

00:21:55: einfache Wissensarbeit also das was sie klassischerweise in industrie- spezifischer Sacharbeit hatten.

00:22:02: wir haben ein Backoffice und die machen Kundensupport oder die machen Auftragsmanagement.

00:22:08: Da wird KI wesentliche Teile der Wertschockfunkskette übernehmen können.

00:22:12: Und dann gibt es auch Verdrängung von Arbeit, das wird stattfinden.

00:22:17: Das ist gar keine Frage!

00:22:17: Umso wichtiger ist wenn wir hier von manueller Arbeit zu automatisiert erbrachter Arbeit wechseln, wo wir verschieben von manuell erbrachte Arbeit zur automatisierten Arbeit dafür verschieben sich Leistungsarten.

00:22:36: Der Mensch wird mehr zum Orchestrator und der wird auch zur Kontrollinstanz der KI Heißt jetzt nicht, dass wir den KI jeden Tag die Hausaufgaben kontrollieren.

00:22:43: Aber es heißt auch nicht, das jeder Job gerettet wird weil sich das Leistungsprofil verschiebt.

00:22:48: aber mit dieser großen Displacement Gefahr ergibt sich natürlich ein Anspruch auf Nachvollziehbarkeit entsprechender ethischen KI Einsatz etc.

00:22:58: und dafür schafft der UI Act erstmalig ein Framework.

00:23:01: wie gesagt ob das der Weisheit letzter Schluss ist dahingestellt aber er gibt zumindest mal Stabilität und stabilität hilft Investitionsentscheidungen zu treffen.

00:23:10: Wenn ein Unternehmen Millionen von Euro in den Einsatz von agentischer KI in den Unternehmenskontext investieren soll, dann braucht es die Gewissheit dass morgen nicht dieser Einsatzcase komplett gestrichen werden kann.

00:23:24: Und dafür gibt jetzt der EUA Act ein erstmal belastbares grobes Framework Form.

00:23:29: Wir sollten dankbar sein das die EU diese Anstrengung unternommen hat und ich sehe auch immer mehr Unternehmen aus dem USA die teilweise sehr interessiert auf das Schielen, was hier gerade in der EU passiert und sich wünschen würden dass diese Sachen ja auch auf dem amerikanischen Markt in so einer klaren aber doch weit gefassten Governance ausgerollt würde.

00:23:47: Das würde ihnen allen deutlich mehr Sicherheit geben als dieses Die Trump-Regierung, die sehr KI-freundlich ist abgewählt werden würde.

00:23:58: und es kommt eine neue demokratische Regierung an die Macht in den USA.

00:24:02: Und sie haben einen anderen Vorstellung von Regulator Rekdamen, könnte sich da das Spielfeld schon einem Tag auf den Anderen drehen.

00:24:08: Und so besser wäre es, einen Rechtsrahmen zu schaffen der vielleicht auch eine Legislaturperiode übersteht oder eine Regierungsverantwortung überstehe.

00:24:17: Und genau das hat die Google dem AI geschaffen.

00:24:20: Dann danke ich Ihnen für die Einordnung Herr Hermann und für die vielen Informationen, die vielleicht auch der ein oder andere Hörer von uns noch nicht hatte.

00:24:33: Es ist ein komplexes Thema wie Sie schon sagten aber trotzdem vielen Dank!

00:24:36: Ich denke das es doch sehr gut zusammengefasst ist.

00:24:40: Danke schön für das interessante Gespräch Herr Hermahn.

00:24:43: Herzlichen Dank

00:24:44: Und wir dürfen auf jeden Fall gespannt bleiben, wie es weitergeht und halten euch wie immer auf unserer Homepage Effekten-Spiegel.com auf dem Laufenden.

00:24:51: alles was das Thema Börse betrifft und da spielen ja KI-Unternehmen auch eine große Rolle schaut auf jeden fall mal vorbei und schaltet auch das nächste Mal wieder ein bis dahin und bleibt gesund.