DSAG-Positionspapier: Künstliche Intelligenz

Stand September 2023

Inhaltsverzeichnis

Definition: Künstliche Intelligenz (KI)
DSAG-Einschätzung zur Relevanz von KI
KI im europäischen und globalen Kontext
DSAG-Forderung an Politik und Gesellschaft
Status quo: SAP & KI
DSAG-Einordnung zu den Entwicklungen bei SAP zu KI
DSAG-Betrachtung aus verschiedenen Perspektiven
Reifegrad aktueller Markttechnologien
Chancen für Transformationsprojekte
Herausforderung: Nachhaltigkeit
Kommerzielle Betrachtung
Einsatz von KI im Öffentlichen Sektor
Risiken von KI
Rechtliche und regulatorische Rahmenbedingungen
DSAG & SAP
DSAG-Beitrag zum Thema KI
DSAG-Forderungen an SAP
DSAG-Forderungen im KI-Kontext
Fazit und Ausblick

Definition: Künstliche Intelligenz (KI)

Künstliche Intelligenz ist anders als der aktuelle Hype vermuten lässt, nicht neu. Die Wissenschaft befasst sich bereits seit den 1950er Jahren mit KI. Damalige Konzepte konnten jedoch aufgrund unzureichender Hardware und zu geringer Datenmengen nicht in die Praxis umgesetzt werden.[1] Das hat sich jedoch im Zuge der Digitalisierung und mit neuen Plattformen verändert und ist dynamischer geworden. KI unterstützt und befähigt den klassischen Optimierungsprozess mit dem Ziel, eine höhere Effizienz zu erreichen und weitere Assistenzmöglichkeiten für die Mitarbeitenden zu schaffen. In einigen Fällen kann KI auch zu neuen Produkten, Services und Geschäftsmodellen führen.[2]

Das deutsche Wort Künstliche Intelligenz (KI) übersetzt das englische Artificial Intelligence (AI). Der Begriff wird in mehreren Bedeutungszusammenhängen verwendet. Ziel ist die Parität zur menschlichen Intelligenz – also die Fähigkeit, Entscheidungen auf der Grundlage von Informationen und Verständnis zu treffen. Aktuell sind Menschen in der Lage, komplexe Informationen auf eine Weise zu verarbeiten, wie es Computer nicht können.[3]

Einige Expert:innen sind der Meinung, dass Künstliche Intelligenz (KI) die menschliche Intelligenz irgendwann übertreffen wird, denn die Computersysteme werden immer leistungsfähiger. Sie sind in der Lage, die kognitiven Fähigkeiten des Menschen nachzuahmen oder sogar zu übertreffen. Zumindest im Moment scheint es jedoch noch keinen klaren Konsens darüber zu geben, wann oder ob dies überhaupt geschehen wird. Denn es gibt viele verschiedene Aspekte der menschlichen Intelligenz – wie bspw. Problemlösungsfähigkeit, Kreativität, Kommunikationsfähigkeit, Erinnerungsvermögen usw. – und diese Kombination an Fähigkeiten ist sowohl bei alltäglichen Aufgaben wie dem Entschlüsseln komplexer Texte bis hin zu komplexeren Situationen wie ethischen Entscheidungen oder der Lösung von Problemen im geschäftlichen Kontext erforderlich. Eine engere Definition liefert die Expert:innen-Gruppe der EU-Kommission. Künstliche Intelligenz sei ein System, das seine Umwelt analysiert und mit einer gewissen Autonomie agieren kann, um ein Ziel zu erreichen. Demnach spricht man immer dann von künstlicher Intelligenz, wenn nicht jede Aktion des Computerprogramms vorher definiert und einprogrammiert wurde. Hierbei werden drei Bereiche der Künstlichen Intelligenz unterschieden:

Künstliche Intelligenz – Computersysteme, die ihre Umwelt analysieren und mit einem gewissen Grad an Eigenständigkeit darauf reagieren.
Machine-Learning – Algorithmen, die anhand von Trainingsdaten lernen, Muster wiederzuerkennen (Teilbereich der KI).
Deep Learning – Algorithmen, die auf sogenannte künstliche neuronale Netze setzen (Teilbereich des Machine-Learnings)[4]

Das in den heutigen Anwendungsfällen vorherrschende Machine-Learning ist somit nur eine eingeschränkte Form der Künstlichen Intelligenz: Programmierer:innen geben in diesem Fall zwar die Strategien vor, nach denen Daten analysiert werden, doch sie legen nicht jedes Detail fest wie bei herkömmlichem Programm-Code. Zudem verbessert der Algorithmus selbstständig sein Vorgehen bei der Datenanalyse innerhalb vorgegebener Einschränkungen.

Das zeigt sich beispielsweise bei der Entwicklung der Gesichtserkennung, die lange Zeit nach programmierten Regelsätzen erfolgte. Sie haben beschrieben, was ein Gesicht beinhaltet, wie z. B. Position von Nase, Augen, Mund, Formen, Farben etc. Diese Algorithmen kamen aufgrund der unendlichen Variationsmöglichkeiten aber schnell an ihre Grenzen. Anders der Ansatz des Machine-Learnings. Hier verarbeitet der Algorithmus Beispielbilder, um zu erlernen, was ein Gesicht im Detail ausmacht. Im Rahmen des sogenannten „überwachten Lernens“ erlernt der Algorithmus anhand von Trainingsbildern, bei welchen Bildern es sich um ein Gesicht handelt. Indem er mit Bildern anderer Objekte vergleicht, lernt er, was Gesichter auszeichnet. Möglich sind mittlerweile auch Konzepte, die auf vorkategorisierte Information verzichten. Hier identifiziert der Algorithmus eigene Kategorien in Trainingsbildern und kann so zu Lösungen kommen, die Programmierer:innen nicht vorgegeben hätten.

Einem solchen selbstlernenden System können verschiedene Arten von Algorithmen zugrunde liegen – wie bspw. das künstliche neuronale Netz. Darunter versteht man Systeme aus Algorithmen, die die Art und Weise, wie das menschliche Gehirn arbeitet und lernt, nachbilden sollen. Der Vorteil dieser Systeme liegt in der Möglichkeit, Informationen in komplexen Strukturen zu gewichten und diese Gewichtung laufend neuen Erkenntnissen anpassen zu können. Diese Systeme mit mathematischen Optimierungsfunktionen auf Basis einer enormen Zahl an Variablen wurden erst auf Basis der immer weiter gestiegenen Rechenleistungen möglich. Deep Learning ist somit eine Methode des Machine-Learnings, die künstliche neuronale Netze nutzt. [5]

DSAG-Einschätzung zur Relevanz von KI

Durch die ChatGPT-Plattform und vergleichbare KI-Anwendungen werden sich tiefgreifende Veränderungen in Wirtschaft, Staat und Gesellschaft ergeben. Auch wenn sich die derzeitigen Lösungen an Verbraucher:innen und Endanwender:innen richten, liegt das größte Potenzial für Deutschland und Europa in Anwendungen in Industrie, Medizin und Öffentlicher Verwaltung. Hier steht der Einzug der neuen Technologie noch bevor. Große Sprachmodelle werden mit Prozessdaten, branchenspezifischen Industriedaten oder biomedizinischen Daten kombiniert werden. Es wird daraus ein neuer Markt für sogenannte Industrie-Foundation-Modelle und deren Anwendungen entstehen.

Im Bereich der klassischen SAP-Architekturen ist durch den Einsatz dieser spezialisierten Modelle eine substanzielle Beschleunigung von Code-Entwicklung zu erwarten. Zudem wird eine natürliche, sprachgesteuerte Nutzendeninteraktion möglich, und die persönlichen Mitarbeitendenfähigkeiten lassen sich stärken. So können Anwendungen, z.B. Geschäftsprozesse bei SAP, in natürlicher Sprache beschrieben, gesteuert und ausgeführt werden – neben der begleitenden interaktiven Dokumentation und Nutzenden-Unterstützung.

KI im europäischen und globalen Kontext

In der Europäischen Union wurde eine gemeinsame Linie zur geplanten KI-Verordnung beschlossen. Für ChatGPT & Co. sollen dabei besonders strenge Regeln gelten. So müssen Trainingsdaten von KI weitgehend offengelegt werden. Dabei sollen Hersteller generativer KI-Modelle mit Blick auf das Urheberrecht in die Pflicht genommen werden können – es drohen Strafen bis zu 10 Millionen Euro.[6]

Insgesamt gibt es aus DSAG-Sicht im europäischen Raum exzellente Forschungsgruppen, aber nur wenige kommerzielle Anbieter. Zu nennen ist hier forschungsseitig die Large European-AI-Models-(LEAM)Initiative. Sie wurde durch den KI-Bundesverband gegründet, um Unternehmen, Start-ups und Forschungseinrichtungen zusammenzubringen.[7] Beim Heidelberger Unternehmen Aleph Alpha handelt es sich neben Stable Diffusion (LMU München), die allerdings hochmoderne Text-zu-Bild Generierung entwickeln, um den einzigen kommerziellen Anbieter großer Sprachmodelle in Deutschland.[8] Darüber hinaus gibt es mit BLOOM/GPT-SW3 große Sprachmodelle in Frankreich und Schweden[9] – und mit Open GPTx wurde ein Pilotprojekt zu großen Sprachmodellen gestartet und bspw. durch das Bundesministerium für Wirtschaft und Klimaschutz der Bundesrepublik Deutschland (BMWK) gefördert.[10]

Global betrachtet ist Deutschland aus DSAG-Sicht aber insgesamt wissenschaftlich und in der Umsetzung zurückgefallen. Private Anbieter aus den USA und China mit sehr großen Rechenzentren dominieren die aktuelle Entwicklung – siehe z. B.: OpenAI, Google, Meta, Alibaba und Tencent.

DSAG-Forderung an Politik und Gesellschaft

Aus DSAG-Sicht ist die aktuell entscheidende Frage: Wer besitzt die Technologie, die Daten und die Ressourcen, um große Modelle zu erstellen und die Entwicklung und revolutionären Durchbrüche zu steuern? Bleibt dies in der Hand der vorbenannten Großkonzerne in den USA und China, und werden diese die Nutzung, Regulierung und auch die einhergehenden ethischen Fragestellungen bestimmen, so wie bereits bei Suchmaschinen und in sozialen Netzwerken?

Europa und Deutschland sollten schnellstmöglich in der Lage sein, die Entwicklung und Nutzung der Technologie nach eigenem Ermessen zu gestalten und wirtschaftliche und gesellschaftliche Entwicklungen positiv zu beeinflussen. Dies betrifft nicht nur die Künstliche Intelligenz als Plattform-Technologie. Große KI-Modelle werden komplett neue Anwendungen ermöglichen und bestehende Geschäftsmodelle und Wertschöpfung disruptiv verändern – in allen Industrien.

Wenn die deutschen Unternehmen diese Basistechnologien nicht eigenständig entwickeln und bereitstellen können, werden sie auf ausländische Dienste ausweichen müssen, Teile der Wertschöpfungskette verlieren und an Wettbewerbsfähigkeit einbüßen. Auch wird es kaum möglich sein, erforderliche Standards zu Datenschutz und Datensicherheit zu schaffen und KI-Modelle ethisch zu nutzen. Um ähnliche Kontroversen wie um Facebook oder Google zu verhindern und nicht auch in der KI die digitale Souveränität zu verlieren, muss Deutschland auf internationalem Niveau forschen, Daten sammeln und veredeln, große Modelle trainieren und diese offen für die Anwendung durch die Wirtschaft, Konzerne, Mittelstand und Start-ups bereitstellen.

Status quo: SAP & KI

SAP hat schon länger die zunehmende Bedeutung von Künstlicher Intelligenz (KI) als wegweisende Technologie erkannt und arbeitet aktiv daran, sein Portfolio entsprechend anzupassen. Die Roadmap von SAP beinhaltet dabei die schrittweise Integration von KI-Funktionen, um den sich wandelnden Geschäftsanforderungen gerecht zu werden. In Bezug auf die Bereitstellung einer KI-Plattform bleibt SAP jedoch bewusst offen. Anstatt eine eigene Plattform zu entwickeln, setzt SAP vorrangig auf Partnerschaften mit führenden Unternehmen wie OpenAI (ChatGPT), dem deutschen Start-up Aleph Alpha[11], Microsoft, IBM Google Cloud und Anthropic sowie Cohere[12]. Dadurch können die fortschrittlichen Algorithmen und KI-Modelle von den Partnern bereitgestellt werden, während SAP weiterhin als Anbieter der unternehmensspezifischen Geschäftsdaten fungiert. Diese strategische Herangehensweise ermöglicht es SAP, die Innovationsgeschwindigkeit zu erhöhen und gleichzeitig von den Entwicklungen und Erfahrungen der Partner zu profitieren und Kunden nicht auf einen Partner festzulegen. Das SAP-eigene „Foundational Model“, das auf Basis der Systemnutzung von ca. 20.000 SAP-Kunden entwickelt werden soll, ist als strategischer Ausblick zwar schon kommuniziert worden, eine konkrete inhaltliche Ausgestaltung ist aber noch nicht erkennbar.

Nach eigenen Angaben bietet SAP heute bereits über 130 Anwendungsszenarien für Künstliche Intelligenz. SAP-Systeme haben angeblich 2022 z.B. 40 Mio. Rechnungen automatisch verarbeitet – und Kunden zu Einsparungen von mehr als 366 Mio. Dollar verholfen.[13] Jetzt soll generative KI hinzukommen z. B. für Stellenbeschreibungen, Fragen für Vorstellungsgespräche, Produktbeschreibungen und Abfragen für Analysen. Dafür kommen KI-Verfahren und -Technologien wie trainierte neuronale Netzwerke oder Deep Learning zum Einsatz, um Texte, Bilder, Audio- und Videoinhalte, 3D-Modelle oder auch Programm-Code zu erzeugen.

Im Zuge des Ausbaus der Partnerschaft mit Google wurde im Mai ein Open-Data-Angebot vorgestellt, das Unternehmen helfen soll, ihre Datenlandschaften zu vereinfachen und ihre Geschäftsdaten besser zu nutzen. Ziel ist es, Daten aus der gesamten Systemlandschaft mit Hilfe von Datasphere mit Googles Daten-Cloud zusammenzuführen – und so in Echtzeit einen Überblick über die Datenlandschaft des Unternehmens zu schaffen.[14]

Im Rahmen der erweiterten Zusammenarbeit mit Microsoft will SAP die Azure OpenAI Service API nutzen, um in gemeinsamer Entwicklungsarbeit die Prozesse in den Bereichen Personalbeschaffung und Mitarbeiterentwicklung zu straffen. So will man den KI-Service nutzen, um auf Basis von Daten aus SuccessFactors Stellenbeschreibungen zu erstellen.[15]

Schließlich soll in Zusammenarbeit mit IBM[16] die KI-Technologie Watson in SAP-Software integriert werden, um zum Beispiel die Leistungsfähigkeit des digitalen Assistenten auf SAP Start zu steigern. Über SAP Start als zentralen Einstiegspunkt haben Anwender einen einheitlichen Zugriff auf die SAP-Cloud-Lösungen. Sie können damit Apps suchen, aufrufen und interaktiv nutzen.[17]

DSAG-Einordnung zu den Entwicklungen bei SAP zu KI

Dass sich SAP-Anwenderunternehmen mit Künstlicher Intelligenz und ihren Aspekten auseinandersetzen, ist nicht neu. Das zeigt ein Rückblick auf die Innovationsplattform SAP Leonardo. Diese wurde ähnlich öffentlichkeitswirksam eingeführt und sollte neben Machine-Learning auch Internet-of-Things und Blockchain als innovative Technologien für SAP nutzbar machen. Viele der technischen und funktionellen Services von SAP Leonardo werden nun jedoch im Produktportfolio aufgehen und nicht mehr als eigene Technologieplattform angeboten.[18]

Seitdem integriert SAP einzelne Lösungen in die jeweiligen Geschäftsprozesse und hat insbesondere in S/4HANA einige Funktionalitäten eingebettet, um die Automatisierung von Routineaufgaben zu unterstützen – unter anderem mit der Auslieferung vordefinierter Szenarien, die anhand historischer Daten des Anwendungsunternehmens trainiert werden müssen – prominente Beispiele sind hier Genehmigungs-Workflows im Einkauf, das Anlegen von Bestellung oder das Ausziffern von Forderungen sowie die Zuordnung von Zahlungseingängen zu offenen Rechnungen.[19]

Als Brückentechnologie wurde auch Robotic Process Automation (RPA) etabliert, um mittels Bots wiederkehrende Aufgaben anhand erkannter Muster abzuarbeiten, ohne die zugrundliegenden Prozesse oder Integrationsarchitekturen transformieren zu müssen.[20]

Als strategische Analytics-Lösung hat die SAP Analytics Cloud (SAC) neben den klassischen Business-Intelligence-Funktionalitäten auch prädiktive Funktionalitäten erhalten, um Prognosen auf Basis statistischer Algorithmen und den Datenzeitreihen des Anwendungsunternehmens.[21]

DSAG-Betrachtung aus verschiedenen Perspektiven

Unter den DSAG-Mitgliedern mehren sich die Berührungspunkte der Unternehmen mit KI oder ChatGPT im Speziellen. Die Recherche, Dokumentation und Textgenerierung als auch das Coding und die Programmierung lassen sich als Bereiche identifizieren, in denen diese Technologie bereits eingesetzt wird oder als wichtige Unterstützung gesehen werden. Als Geschäftsbereiche, in denen KI die größten Herausforderungen lösen könnten, sind z. B. die IT in der Entwicklung, Sales & Services sowie der IT-Basisbetrieb und die Administration denkbar. Aber natürlich auch die Bereiche Marketing, Finance, Human Resources und die Produktion. Die ersten Grundlagen für den Einsatz von KI scheinen gelegt zu werden, sei es mit der Definition von Datenplattformen bzw. Datenstrategien oder indem konkret der Zugriff auf KI-Plattformen beantragt wurde. Und die Zahl derer scheint zu wachsen, die bereits über Mitarbeitende mit AI-Kenntnissen verfügen.

Unternehmen, die sich mit Künstlicher Intelligenz befassen, sollten das Thema ganzheitlich betrachten und auch die folgenden Aspekte und DSAG-Einschätzungen in ihre Überlegungen miteinbeziehen:

Reifegrad aktueller Markttechnologien

Die neuen Algorithmen verarbeiten heutzutage eine enorme Menge von Daten gleichzeitig und übertreffen – auf dem Papier – die Leistung des menschlichen Gehirns um ein Vielfaches. So können die neuen Algorithmen z. B. mit einer ungeahnten Trefferquote Tumore auf Röntgenbildern erkennen, Musikhörern das nächste passende Lied vorschlagen und Bilder und Texte in ziemlich hoher Qualität generieren. Auch wenn diese Ergebnisse noch geringe Fehlerquoten aufweisen, haben diese Lösungen in Kombination mit menschlicher Kuratierung das Potenzial, viele Berufsfelder zu verändern. Doch auch wenn das menschliche Gehirn Informationen insgesamt viel langsamer als ein Computer verarbeitet, ist es weit überlegen, wenn es darum geht, in kurzer Zeit ein neuartiges Problem zu lösen.

Anstatt alle verfügbaren Informationen zu verarbeiten, greift das menschliche Gehirn dabei auf nur wenige, informationsreiche Punkte zurück und erreicht somit die optimale Balance zwischen Geschwindigkeit und Perfektion – eine Lösung, die sowohl schnell als auch gut genug ist. Wir sind also in der Lage, eine Entscheidung zu treffen, ohne zuerst irrelevante Informationen zu verarbeiten und die vermeintlich limitierte Rechenleistung unseres Gehirns effektiv einzusetzen. Derzeit sind die Computersysteme noch weit davon entfernt, mit der Fülle von Informationen, aus der die echte Welt besteht, ähnlich effizient umzugehen. Die im Internet verbreiteten, fehlerhaften Antworten von ChatGPT zeigen, dass Menschen Inhalte noch besser verstehen und auf ihr kommunikatives Ziel hin beurteilen und anpassen können. Unser Vorteil liegt also (noch) darin, inhaltliche Zusammenhänge und sprachliche „Untertöne“ besser zu interpretieren.

Dennoch wächst die Anzahl der Fachleute, die davon überzeugt sind, dass Maschinen menschenähnliche Fähigkeiten erreichen werden. Grund dafür ist auch der aktuelle Hype um ChatGPT. Solche Prognosen gibt es allerdings schon länger. Bisher haben sie sich ausnahmslos in die weitere Zukunft verschoben. Im Moment stützen sie sich unter anderem auch auf die Geschwindigkeit, mit der Chips in den letzten Jahren schneller und billiger wurden. Andere Forscher sind skeptisch, ob es überhaupt je menschenähnliche Maschinen geben könnte. Denn neben der Rechenleistung – die bereits jetzt die des menschlichen Gehirns übertrifft – gibt es noch kategorische Herausforderungen, die der Entwicklung menschenähnlicher Maschinen im Weg stehen.

Ungeachtet dessen leisten große Sprachmodelle wie ChatGPT Erstaunliches. Doch die Sprache, die sie verarbeiten, ist eindimensional. Bis jetzt kann kein künstliches neuronales Netz vollumfänglich mit der Mehrdimensionalität umgehen, die die Welt um uns herum kennzeichnet.

ALEPH ALPHA

Als Basistechnologie in aller Munde ist derzeit das Sprachmodell von OpenAI, das Microsoft über die eigene Cloud-Plattform Azure vermarkten will – auch Google und Amazon Web Services entwickeln hier eigene Angebote. Das von Aleph Alpha aufgebaute Sprachmodell namens Luminous soll ebenfalls komplexe Fragen beantworten und Texte verfassen, ähnlich wie ChatGPT, dabei aber primär Geschäftskund:innen ansprechen und komplexe Arbeitsschritte mit hohen Sicherheitsanforderungen unterstützen – wie z. B. im Gesundheitswesen, im Finanzsektor oder in der Justiz.[22]

Ein Vergleichstest von Luminous gegen verschiedene große Sprachmodelle wie DaVinci von OpenAI oder Opt von Meta soll gezeigt haben, dass das Produkt von Aleph Alpha auf dem Niveau der Konkurrenz arbeitet – im Rahmen dieses Vergleichs mussten die Systeme Texte vervollständigen, Multiple-Choice-Fragen beantworten und selbst Artikel verfassen in fünf Sprachen, neben Deutsch etwa auch Englisch und Spanisch. Rund um ChatGPT steigen die Investitionen in generative Künstliche Intelligenz, also Systeme, die Texte, Bilder oder Programm-Code produzieren in ungeahnte Dimensionen – dieses Kapital wird benötigt, um die notwendigen, enormen Rechenkapazitäten zu bezahlen – und um die Services und Produkte weiterzuentwickeln. Das Heidelberger Start-up Aleph Alpha bietet daher bewusst kein Massenprodukt für private Verbraucher:innen an – auch, weil es sich einen Betrieb von Millionen von Anfragen täglich auf Basis seiner derzeitigen Kapitalausstattung gar nicht leisten kann. [23]

ChatGPT

ChatGPT ist ein Chatbot, der auf einem der größten neuronalen Netze der Welt basiert – es handelt sich um Sprachmodelle, die dazu gemacht sind, menschliche Sprache zu verarbeiten. ChatGPT wurde Ende des Jahres 2022 der Öffentlichkeit zur Verfügung gestellt. Die erstaunlichen Fähigkeiten des Chatbots, der auf alle möglichen Fragen plausible und offenbar kreative Antworten gibt, haben ein großes Publikum begeistert und Sprach-KI über Expert:innen-Kreise hinaus bekannt gemacht.[24]

Auch wenn die Software Texte schreiben und Fragen beantworten kann, als wäre sie ein Mensch, steckt hinter dieser Künstlichen Intelligenz ein statistisches Modell. Das Modell berechnet, welches Wort wahrscheinlich als Nächstes kommt und berücksichtigt dabei alle Wörter davor als Kontext. So arbeitet sich ChatGPT von Wort zu Wort und kann plausible Texte erzeugen. Diese Wahrscheinlichkeiten errechnen sich aus Trainings-Texten, die aus digitalisierten Büchern und frei im Internet verfügbaren Informationen gespeist wurden. Es wurde also aus mehreren Milliarden Wörtern ein Trainings-Text für dieses Modell entwickelt. Das Modell selbst erstellt aus den Texten ein Netz von Bedeutungszusammenhängen und weiß daher, welche Wörter tendenziell zueinander gehören.

Doch auch auf Basis dieser vielen Daten sind die Outputs von Sprachmodellen oft seltsam oder moralisch unerwünscht. Mithilfe von Menschen wird dem Modell deshalb zusätzlich beigebracht, was eine gute Antwort ist und was nicht. Weil das Modell jedoch „nur“ Wörter vorhersagt und kein tatsächliches «Wissen» beschreibt, können die Outputs auch falsch sein – hierzu finden sich im Internet unzählige Beispiele der Nutzung von ChatGPT.[25]

Bei Chat GPT handelt es sich zudem um eine offene Plattform, die von Millionen von Nutzer:innen aus der ganzen Welt verwendet wird. Je nachdem, welche Art von Informationen du bei ChatGPT eingibst, besteht außerdem die Gefahr, dass sensible Unternehmensdaten öffentlich gemacht werden oder die generierten Texte im Konflikt mit geltenden (Urheber)rechten stehen.

OpenAI hat daher bekanntgegeben, eine neue „Enterprise“-Version seiner Lösung für den Einsatz in Unternehmen bereitzustellen, die den Sicherheits- und Vertraulichkeitsanforderungen professioneller Einsatzszenarien gerecht wird. Damit wurde auf die Kritik insbesondere von Großunternehmen reagiert. Neben der seit langer Zeit geforderten Verschlüsselung sollen auch die Anforderungen an Sicherheit und Datenschutz umgesetzt werden – zudem beinhaltet dieses Angebot auch einen unbegrenzten Zugang zum Large Language Model GPT-4.[26]

OpenAI versichert zudem, keine Kunden-Prompts und Unternehmensdaten für das Training seiner KI-Modelle zu verwenden. Bekanntlich nutzt das Unternehmen in seiner kostenlosen Varianten und in der Abo-Variante die Nutzerdaten für das Training seines Systems. Es sei denn, Anwender haben die Konversationshistorie deaktiviert.

Chancen für Transformationsprojekte

Die Integration und Nutzung von KI-basierten Lösungen eröffnet Unternehmen aus DSAG-Sicht neue Chancen. Im Hinblick auf effizientere, automatisierte Abläufe und operativere Effizienz. Mit der Implementierung von KI entstehen neue Rollen und Arbeitsplätze. Unternehmen müssen Fachkräfte mit Kenntnissen in KI-Technologien und Datenanalyse rekrutieren oder ihre Mitarbeitenden entsprechend weiterbilden, um die Chancen, die KI bietet, bestmöglich zu nutzen. Gleichzeitig können neue Arbeitsplätze entstehen.

Somit kann auch eine erfolgreiche Transformation aus DSAG-Sicht Rollenänderungen begünstigen und begleiten sowie dabei unterstützen, dass die Mitarbeitenden ihre Fähigkeiten noch besser ausschöpfen können, um eine entsprechende KI zu trainieren und intelligent einzusetzen. In dem Zusammenhang sind KI-unterstützte Migrationsservices denkbar, um Massendaten zu interpretieren und auszuwerten. Ein weiterer wichtiger Punkt wäre die Prozessintegration, zu der KI-Services mit personalisierten und vorausschauenden Hilfestellungen und Schulungsinhalten beitragen könnten.

Grundsätzlich muss dem Thema der KI-basierten Geschäftsprozess-Wertschöpfung und der Implementierung von KI-Services in Transformationsprojekten genügend Raum gegeben werden. Mit dem Ziel, die entstehenden Synergien und Potenziale intelligent zu nutzen.

Werden zudem die entsprechenden Daten als intelligentes Asset verstanden und lassen sich komplexe Herausforderungen mit Hilfe von KI lösen, kann dies ebenfalls helfen, die aktuellen Anforderungen an ein Sustainability-Reporting zu erfüllen. Aus DSAG-Sicht wird interessant sein zu sehen, welches Potenzial SAP in Bezug auf die entsprechenden Integrationsszenarien freilegen wird.

Herausforderung: Nachhaltigkeit

Das Trainieren von künstlichen neuronalen Netzen benötigt enorme Mengen an Rechenleistung, also auch an Energie. Wie viel Energie genau, darüber geben die Entwicklerfirmen oder Forschergruppen keine detaillierte Auskunft. So ist sicherlich zu beachten, dass ein trainiertes Sprachmodell in unterschiedlichen Szenarien eingesetzt werden kann, ohne ein aufwendiges, energieintensives Neutraining. Doch ist der Einsatz solcher energieintensiven Technologien mit den angestrebten globalen Klimazielen vereinbar?

Zudem sind in den Prozessoren knappe Ressourcen wie Lithium verbaut. Es ist somit sinnvoll, dass sich Forschende und Unternehmen vermehrt überlegen: Welchen Nutzen bringt ein Training mit noch mehr Daten und Rechenleistung? Lohnt sich der Aufwand? Ist ein Einsatz dieser Technologien mit den eigenen nachhaltigen Unternehmenswerten vereinbar?

Zudem beruht der Erfolg der heutigen LLM-Modelle nicht allein auf Code-Zeilen und Datenbanken, sondern erfordert mühsame Handarbeit. Auch die sogenannte „Künstliche Intelligenz“ kommt nicht ohne menschliche Hilfe aus, um die Modelle weiter zu trainieren und das Antwortverhalten zu verbessern.

Recherchen haben ergeben, dass diese Tätigkeiten verstärkt in den globalen Süden ausgelagert werden – mit schlechten Arbeitsbedingungen. Vor dem Hintergrund einer nachhaltigen Unternehmensführung sollte daher auch das Training der Modelle transparent gemacht und den geltenden ethischen Standards gerecht werden.[27]

Kommerzielle Betrachtung

Die kommerziellen Rahmenbedingungen sind mit allen beteiligten Anbietern separat zu vereinbaren. Ebenso noch nicht hinreichend präzisiert ist die Ankündigung von SAP, in Zukunft auch eigene Foundation-Modelle zu entwickeln, die nativ in die SAP-Applikationen eingebaut und nicht etwa als separate Tools angeboten werden sollen. Hier wird zwar schon darüber nachgedacht, dass je nach Reifegrad und Umfang der KI-Funktionen verschiedene Vermarktungsmodelle mit unterschiedlichen Preismodellen angeboten werden können – für die Anwendungsunternehmen steht die konkrete technische und kommerzielle Ausgestaltung der KI-Services jedoch klar im Vordergrund. Andernfalls eröffnen diese Szenarien eher dem SAP-Vertrieb neue Chancen, um mittels KI die Kunden dazu zu bringen, mehr SAP-Dienste zu buchen.

Dieser Eindruck hat sich mit den neuesten Ankündigungen von SAP verstärkt. Laut diesen sollen die KI-Innovationen nicht nur ausschließlich in der Cloud, sondern auch nur für Grow-with-SAP- oder für RISE-with-SAP-Vertragskunden zugänglich sein – und zwar gegen einen erheblichen Preisaufschlag. Diese Ankündigung grenzt aus DSAG-Sicht Kunden, die S/4HANA bereits mit viel Aufwand On-Premise installiert haben, Hyperscaler mit direktem Kundenkontakt und Managed Services Provider aus. Aufgrund dieses Paradigmenwechsels gilt für Unternehmen, die eine Umstellung auf S/4HANA geplant haben und die bestehenden Lizenzen nutzen bzw. neu erwerben, und entweder in ihren Rechenzentren oder Cloud-nativ mittels Infrastructure-as-a-Service (IaaS)-Umgebung eines Hyperscalers implementieren wollen: Neue KI- und Nachhaltigkeitsfunktionen werden sie nach dem Willen von SAP nicht nutzen können.[28]

Auch bezogen auf die von SAP gewählte Rolle als Lieferant der Business-Daten sind wesentliche Fragen zu klären: Schon eine recht simple Anwendung von Text-KI in SAP-Systemen, dass Nutzer:innen in ihrem SAP-System frei formulierte Fragen stellen könnten, wird aus technischer und aus kommerzieller Sicht komplex, wenn die Antworten nicht nur auf Daten aus SAP-System beruhen. Von der indirekten Nutzung ganz zu schweigen, sollten die Plattformen der KI-Anbieter mittels SAP-Schnittstelle Verarbeitungsaktivitäten in der SAP-Software aktivieren.

Die Ausrichtung von SAP scheint zudem sehr eindimensional getrieben. Aktuell werden von SAP nur wenige für Unternehmen nutzbare Szenarien bereitgestellt. Doch nun hat der Software-Hersteller neben der Einschränkung auf bestimmte Vertragskunden (Grow-with-SAP- oder Rise-with-SAP-Vertragskunden) bekanntgegeben, dass Kunden bei der Integration von Künstlicher Intelligenz in SAP-Prozesse mit Preisaufschlägen in der Größenordnung bis 30 Prozent rechnen müssten[29] – ohne, dass die SAP-Produkte hier bereits eine hinreichende Marktreife oder gar Betriebsfähigkeit erlangt hätten.

Diese einseitige kommerzielle Orientierung wird bspw. von Meta (Facebook-Mutterkonzern) deutlich in Frage gestellt. Der Konzern hat sein neues KI-Modell LLaMA 2 vorgestellt, dessen Grunddaten, Code und Gewichte als Open Source frei verfügbar sind. Das Modell wird gleichzeitig auch für den kommerziellen Einsatz freigegeben. Die Nutzung soll dabei unverändert kostenlos sein, auch für Geschäftskunden. Mit dieser offenen Strategie verfolgt der Konzern bewusst einen dezentralen Ansatz, um die Modelle sicherer zu machen, da somit auch eine kritische Prüfung durch Dritte ermöglicht wird.

Darüber hinaus soll LLaMA 2 zudem in kleiner Version gemeinsam mit dem Chipanbieter Qualcomm für Laptops und Smartphones verfügbar werden. Wie die Vorgängerversion liegt Programmcode des vortrainierten Modells offen vor und kann weiterentwickelt sowie angepasst und leichter in Unternehmensanwendungen eingefügt werden, da es transparent hinsichtlich seiner Architektur, der verwendeten Trainingsdaten und -methoden ist.[30]

Einsatz von KI im Öffentlichen Sektor

Aus DSAG-Sicht sind die Möglichkeiten von KI in der Öffentlichen Verwaltung besonders groß – z. B. zur Prozess-Automatisierung wie für das Erkennung von Studienbescheinigungen oder das Zustands-Monitoring von Autobahnen, zum Sichten großer Mengen von Material wie z. B. von Handwerksstatistiken[31] und zum Formulieren einfacher Texte. Gleichermaßen könnten digitale Chatbots Behördengänge leichter machen. Zahlreiche Digitalisierungsprojekte in der öffentlichen Verwaltung konzentrieren sich derzeit auf den Kontakt zum Bürger.[32] Darüber hinaus könnte KI ein Mittel sein, dem Fachkräftemangel im Öffentlichen Dienst entgegenzutreten. Bayern und Schleswig-Holstein prüfen z. B. bereits den Einsatz von ChatGPT in der Öffentlichen Verwaltung.[33] In Schleswig-Holstein hat der Digitalminister angekündigt, KI-Modelle wie ChatGPT in die Öffentliche Verwaltung bringen zu wollen. Zitat: „Die Zukunft der Verwaltung ist automatisiert, algorithmisiert, cloudifiziert und datenbasiert.“[34]

Diskutiert wird aus DSAG-Sicht unter anderem in der Öffentlichen Verwaltung darüber, wie die KI-Modelle trainiert werden. Es stehen die Fragen im Raum, welche Daten dazu genutzt werden und welche Quellen hinter den Antworten und den Entscheidungen der KI-Modelle liegen. In der Öffentlichen Verwaltung bietet der Einsatz von KI-Technologie zwar wie beschrieben viele Möglichkeiten, doch gehen diese mit Datenschutz- und ethischen Bedenken einher.[35] Denn: KI-Algorithmen benötigen oftmals viele personenbezogene Daten, um effektiv zu funktionieren. Entsprechend muss vor dem Einsatz diskutiert werden, wie er datenschutzfreundlicher gestaltet werden kann. Eine Option wäre es aus DSAG-Sicht, Datenschutzprinzipien gleich zu Beginn in die Entwicklung von KI-Systemen einzubeziehen. Ein Beispiel: Daten könnten anonymisiert oder mit Pseudonymen versehen werden, um es zu erschweren, Einzelpersonen zu identifizieren.

Des Weiteren sollte es aus DSAG-Sicht klare Richtlinien und Mechanismen geben, um den Einsatz von KI-Algorithmen nachvollziehbar zu machen. Zudem müssen Datenschutz und KI-Entwicklung Hand in Hand gehen, wofür Datenschutz-Expert:innen und KI-Entwickler:innen eng zusammenarbeiten müssen, um sicherzustellen, dass ein entsprechender Schutz implementiert wird.

Anwendungsfälle für KI im Public Sector gibt es bereits:

Krisenfrüherkennung Auswärtiges Amt
News- und Lagecenter der Bundesregierung
Zoll- und Steuerfachverfahren (BMF)
evtl. Sicherheitsrelevante Behörden
Infrastrukturmanagement (LSBG Hamburg Brücken)
polizeiliche Erkennung von verbotenen Symbolen im Demonstrationsumfeld
Ausblicke: Autobahnen und Wasser- & Schifffahrtsverwaltung (Referenzprojekt Schweden) – Maintenance

Aus DSAG-Sicht sind die Entwicklungen zum Thema KI im Public Sector ein guter Aufhänger, um mit dem Mythos aufzuräumen, dass der Public Sector keine Cloud nutzen kann. Je nach Anwendungsfall und Daten, die verarbeitet werden, ist es möglich. Wenn die KI keine realen Daten von Bürger:innen oder Beschäftigten verarbeitet, aber z. B. beim Ausfüllen von Anträgen, oder der Suche von Informationen etc. hilft, wäre das ein großer Vorteil. KI könnte dadurch zur Effizienzsteigerung in den Behörden beitragen.

Risiken von KI

Da Große Sprachmodelle (Large Language Models, LLMs) in der Regel sprachlich fehlerfreien und inhaltlich überzeugenden Text generieren, entsteht bei Nutzer:innen schnell der Eindruck eines menschenähnlichen Leistungsvermögens und damit ein großes Vertrauen in die generierten Ergebnisse. Generative LLMs sind darauf trainiert, Text auf Basis stochastischer Korrelationen zu generieren. Dadurch ist technisch nicht garantiert, dass dieser faktisch korrekt ist. So kann ein solches Modell zwar mit Sprache umgehen, leitet seine Erkenntnisse aber aus bereits existierenden Quellen bzw. Texten ab. Diese wahrscheinlichkeitsbasierten Ansätze können daher zu identischen Eingaben unterschiedliche Ergebnisse liefern.[36]

Aus DSAG-Sicht ist daher von Unternehmen zu beachten, dass die generierten Ergebnisse nicht in jedem Fall inhaltlich korrekt sind – je nach Einsatzszenario kann dies gravierende Auswirkungen haben. Eine entsprechende Risikobewertung und ggf. Implementierung von menschlichen Kontrollmechanismen oder Auswertungen kann daher erforderlich sein. Diese fehlende Sicherheit gilt insbesondere bei der Generierung von Programm-Code über LLMs. Da der Programmcode, der zum Training von LLMs verwendet wurde, möglicherweise anfällig für bekannte Sicherheitslücken ist, kann auch der generierte Code diese Anfälligkeiten aufweisen.

Zudem müssen sich die Anwendungsunternehmen bewusst sein, dass bei der Nutzung einer externen API alle Eingaben, die an das LLM getätigt werden, an den Betreiber des Modells abfließen. Inwiefern dieser auf die Daten und die Ausgaben des Modells zugreift und sie z. B. zum weiteren Training des Modells nutzt und speichert, ist von Modell zu Modell unterschiedlich geregelt. Die Nutzung eines LLM via einer externen API ist also insbesondere bei der Verarbeitung von sensiblen und vertraulichen Informationen kritisch zu hinterfragen. Die Verarbeitung von eingestuften Informationen ist ohne weitere Maßnahmen unzulässig.

Interessant werden hier aus DSAG-Sicht vor allem kleinere Modelle, die sich aktuell noch in der Entwicklung befinden, die für spezialisierte Anwendungsfälle ähnliche Leistungen erbringen wie wesentlich größere LLMs und darüber hinaus auch lokal betrieben werden können. Doch auch wenn die fehlende Datenhoheit durch die Verwendung eines LLMs via API durch eine lokale Installation obsolet ist, muss jedes Unternehmen die Anwendungsfälle dahingehend prüfen, ob eine große Abhängigkeit vom Hersteller und Betreiber des Modells gewünscht ist.

Diese Abhängigkeit bezieht sich zunächst auf die naheliegenden technischen Aspekte, wie Kontrollierbarkeit und Verfügbarkeit des Modells und die Möglichkeit, die (Weiter-)Entwicklung des Modells aktiv steuern zu können, also z. B. Trainingsdaten für spezielle Anwendungsfälle zu wählen oder Sicherheitsmechanismen von vornherein zu etablieren. Zudem ist es essenziell, die kommerzielle Abhängigkeit zu bewerten. Denn: Je spezifischer der Algorithmus trainiert und je tiefer in die Unternehmensanwendungen integriert wird, desto stärker wird die Abhängigkeit vom Anbieter selbst, der nur mit erheblichem Aufwand und ohne Weitergabe der trainierten Algorithmen austauschbar sein wird.

Rechtliche und regulatorische Rahmenbedingungen

Anwendungsunternehmen sollten aus DSAG-Sicht beachten, dass die rechtlichen und regulatorischen Rahmenbedingungen für den Einsatz von Künstlicher Intelligenz mitnichten abschließend definiert wurden. So hat das Europäische Parlament nach zwei Jahren Beratung nun den „AI Act“[37] zur Regulierung für Künstliche Intelligenz (KI) vorgelegt, der einen risikobasierten Ansatz verfolgt. Das Gesetz stuft KI-Anwendungen in vier Gruppen ein, an denen sich der Umfang gesetzlicher Auflagen orientieren soll:

Inakzeptable Risiken: Anwendungen wie Gesichtserkennung im öffentlichen Raum[38] sollen beispielsweise verboten sein. Gleiches gilt für Social-Scoring-Modelle (Klassifizierung natürlicher Personen auf der Grundlage ihres sozialen Verhaltens oder ihrer Persönlichkeitsmerkmale) oder Spielwaren mit Sprachsteuerung, die Kinder zu gefährlichem Verhalten animieren könnten.[39]
Hohes Risiko: Anwendungen, die sich auf kritische Infrastruktur, Grenzkontrollen, Bildungsbereich und den Arbeitsmarkt beziehen. User:innen sollen umfassend informiert werden, die Trainingsdaten müssen eine Mindestqualität aufweisen, Anbieter sollen eine Risikoevaluierung ihrer Systeme vorlegen.
Limitiertes Risiko: Betrifft z. B. Chatbots. Nutzer:innen sollen transparent informiert werden, dass sie mit einem Bot und keinem Menschen sprechen.
Minimales Risiko: Betrifft Videospiele mit KI-Elementen & Spam-Filter. Diese Anwendungen werden von der Verordnung nicht erfasst.[40]

KI-Systeme mit einem hohen Risiko unterliegen in diesem Entwurf einem strengen Regelungsrahmen, solche mit einem unannehmbaren Risiko sogar einem Verbot. Vorgesehen sind zudem Transparenzvorgaben für bestimmte KI-Systeme sowie die Schaffung eines behördlichen Aufsichtsrahmens.

Greifen soll das Gesetz bis 2026, es gibt aber bereits Überlegungen, einzelne Bereiche (z.B. Generative KI/ChatGPT) vorzuziehen. Zusätzlich sollen große Technologiekonzerne und maßgebliche KI-Entwickler zur freiwilligen Selbstkontrolle verpflichtet werden. Die EU sieht sich mit diesem Gesetz in einer Vorreiterrolle und will als Vorbild für weitere Länder dienen.[41]

In den USA hat die Diskussion bereits eine weiterführende Ebene erreicht. So haben die Technologieunternehmen Amazon, Anthropic, Google, Inflection, Meta, Microsoft und OpenAI die Kennzeichnung von KI-generierten Inhalten zugesagt. Die Konzerne wollen sich verpflichten, eine umfassendere Regelung zu schaffen, die es Verbraucher:innen erleichtert, zu erkennen, ob ein Inhalt künstlich erzeugt wurde oder nicht. Zu dieser Selbstverpflichtung neben den digitalen Wasserzeichen für KI-generierte Inhalte sollen auch weitergehende Services gehören:

externe Sicherheits-Audits kommerzieller KI-Systeme,
die Einrichtung von Meldewegen für Security-Expert:innen, um Schwachstellen in den Systemen zu entdecken,
die Veröffentlichung von Berichten über technische Schwachstellen und gesellschaftliche Risiken.[42]

Mit dieser Initiative versuchen die Unternehmen einer gesetzlichen Regelung zuvorzukommen, die aktuell Gegenstand von Beratungen im US-Kongress sind. Eine für Unternehmen relevante Erweiterung um geltende (IT-)Prüfungsstandards und die Nachvollziehbarkeit von Entscheidungsgrundlagen in Unternehmensprozessen ist hierbei ebenso Gegenstand der Initiative wie ein erforderliches internes Kontrollsystem (IKS).

DSAG-Einschätzung zum AI Act

Bereits jetzt ist absehbar, dass die Verordnung die Entwicklung und den Einsatz von KI-Anwendungen nachhaltig beeinflussen wird, auch wenn sie noch nicht in nationale Gesetzgebung überführt worden ist. Anbieter und Nutzer:innen von KI-Systemen sollten sich aus DSAG-Sicht frühzeitig mit den potenziellen Auswirkungen des Legislativvorschlags auseinandersetzen. Denn schon auf Basis des aktuellen Beschlusses sind der zu erwartende Rechtsrahmen für vertrauenswürdige KI und wesentliche Schlüsselelemente einer Regulierung ersichtlich, die nicht nur die Anbieter von KI-Systemen betreffen, sondern auch die Unternehmen, die ein KI-System in eigener Verantwortung verwenden sowie alle Beteiligten entlang der KI-Wertschöpfungskette.

Allerdings braucht es aus DSAG-Sicht eine angemessene Balance zwischen einer effektiven Regulierung und der Förderung innovativer Geschäftsmodelle im Bereich generativer KI. So ist an der aktuellen Diskussion kritisch zu bewerten, dass zwei Themen im Vordergrund stehen: „Deepfakes“ und der „Großraum Urheberrecht“. Bezogen auf Deepfakes sind die großen Probleme kaum mit den derzeitigen Regulierungsinstrumenten und Verboten in den Griff zu bekommen. Und in Sachen Großraum Urheberrecht hat die EU in der Vergangenheit bereits eine schlechte Figur abgegeben. Auch, wenn Deepfakes und das Urheberrecht relevant sind, so sind sie bei der Regulierung von KI nur zwei Szenarien unter vielen.

Die Ankündigung des EU-Parlaments, die „weltweit erste umfangreiche Regulierung der KI“[43] vorzulegen, zeigt das Dilemma sehr eindrucksvoll: Während China und die USA die beste und effizienteste KI der Welt entwickeln, scheint Europa die regulierteste KI der Welt zu wollen. Konkret soll „mit einem entsprechenden starken Rechtsrahmen zum Schutz von Privatsphäre und Meinungsfreiheit sowie qualitativen digitalen Infrastrukturen die EU in der Datenwirtschaft weltweit eine Spitzenposition einnehmen.“[44]

Mit Blick auf die letzten Jahrzehnte ist es eindeutig, dass die EU digitalwirtschaftlich im internationalen Vergleich weit zurückgefallen ist. Wenngleich unstrittig ist, dass der Einsatz Künstlicher Intelligenz reguliert werden muss, besteht die Gefahr einer Fehl- und Überregulierung. Das könnte geschehen, wenn die europäische IT-Regulierungspolitik in einem ersten Schritt nicht konsequent öffentliche, mittel- und langfristige (wirtschaftliche) Interessen abwägt.

Denn andernfalls droht die KI-Regulierung in Deutschland und Europa in eine falsche Richtung zu gehen. Der gezielte Einsatz intelligenter Algorithmen ist aus DSAG-Sicht derzeit ein vielversprechender Ansatz, um die Digitalisierung weiter voranzutreiben. Das gilt insbesondere vor dem Hintergrund, dass der Fachkräftemangel heute bereits spürbar ist und sich aufgrund der alternden Gesellschaft in den kommenden Jahren noch verstärken wird. Diesem Problem ließe sich durch Automatisierung und den Einsatz von KI aus DSAG-Sicht begegnen.

DSAG & SAP

Die DSAG steht mit SAP im konstruktiv-kritischen Austausch und als Sparrings-Partner zur Verfügung, um Künstliche Intelligenz weiter und schnell in den mehr als 3.800 Mitgliedsunternehmen in Deutschland, Österreich und der Schweiz zu etablieren.

DSAG-Beitrag zum Thema KI

Die DSAG hat einen Arbeitskreis „OpenAI & SAP“ gegründet. Mit dem Ziel, einzelne Projekte zu pilotieren, um reale Use Cases zu entwickeln. Je nach Entwicklung und Priorisierung der Use Cases und dem Interesse der Community sollen entsprechende Arbeitsgruppen oder Themengruppen mit Best Practices aufgebaut werden. Das Interesse innerhalb der Mitgliedschaft zum Thema KI ist aus Sicht der DSAG bereits jetzt sehr groß. Da die SAP-Strategie in Sachen KI offen für verschiedene Anbieter ist, positioniert sich auch die DSAG künftig entsprechend.

Den Auftakt machte die Interessenvertretung im Mai 2023 in Sachen OpenAI. Hier bot der Industrieverband bereits erste ChatGPT-Sessions bzw. eine OpenAI-Online-Session an. Dort erhielten Mitglieder der DSAG-Community eine Einführung in die Möglichkeiten der KI-basierten Technologien ChatGPT und OpenAI. Es werden die Grundlagen der Technologien sowie deren Funktionen erklärt. Die Teilnehmer:innen bekommen außerdem einen Einblick in geschäftliche Vorteile von ChatGPT & OpenAI, z. B. durch Produktivitätssteigerung von Fachpersonal. Mitglieder können sich als Community-Frontrunner in diesem aufregenden Thema positionieren und erfahren, wie OpenAI eine Chance bietet, die Unternehmens-Transformation zu beschleunigen. Die DSAG sieht es als ihre Aufgabe, die Brücke zwischen ihren Mitgliedsunternehmen, SAP und den Partnern im KI-Umfeld zu schlagen.

Die Aufzeichnungen der bisherigen Sessions gibt es hier:

DSAG, Microsoft und SAP haben gemeinsam ein Vorgehensmodell entwickelt, um konkrete KI-Use-Cases mit den DSAG-Mitgliedsunternehmen zu erarbeiten. Dieses besteht nach einem gemeinsamen Kickoff aus vier inhaltlichen Phasen:

1. Referenzarchitektur für die Szenarien

In diesem generellen Block werden Themen wie Datenschutz und Datenhaltung diskutiert. Im Fokus stehen die Fragen, wie sichergestellt werden kann, dass Audits erfolgreich durchlaufen und die Daten anonymisiert werden können. Dieser inhaltliche Block soll auf alle Anwendungsfälle übertragbar sein. Das Ergebnis soll ein architektonisches Referenzpapier für SAP ERP Central Component (SAP ECC) und SAP S/4HANA sowie On-Premise, Private und Public Cloud sein.

2. Konstruktionsphase

Dieser Block sieht Workshops vor, in denen Unternehmen geholfen wird, die Use Cases gemeinsam durchzuführen. Das Ergebnis soll sein, dass die Teilnehmenden die Use Cases deployen können. Zudem sollen am Schluss ein How-to-Guide sowie ein Praxisbericht zu den aufgewendeten Ressourcen und der benötigten Zeit stehen.

3. Umsetzung der Szenarien mit Unternehmensdaten

Im dritten Block geht es darum zu testen und zu validieren. Das Ergebnis sollen individuelle Erfahrungsberichte sein, die in einem zentralen Dokument zusammenfassen, was man tun und nicht tun sollte.

4. Abschlussphase

Im vierten Block steht das kommerzielle Modell und dessen Bewertung auf Basis der Validierungsergebnisse im Fokus. Hier geht es darum, die Ergebnisse und Erfahrungen je Kunde zu spiegeln.

Gemeinsam identifiziert haben die Beteiligten bisher die folgenden sieben Anwendungsblöcke:

Code-Generation
Auswertung Dokumentationen
Szenario-Unterstützung
IT-/Customer-Support
Human Resources
IT-/SAP-Berechtigungen
Security

DSAG-Forderungen an SAP

Bereitstellung aller KI-Innovationen für alle S/4HANA-Kunden

Mit der Bekanntgabe der ursprünglichen Wartungsverlängerung bis 2040 hatte SAP zugesichert, Innovationen für S/4HANA konsequent und langfristig bereitzustellen und Kunden damit Stabilität versprochen.[45] Alle KI-Innovationen für die S/4HANA Private Cloud sind somit für S/4HANA On-Premise mit identischem Leistungsumfang zur Verfügung zu stellen. Dies ist notwendig, um die Verfügbarkeit von Technologien wie Machine-Learning (ML) und Künstlicher Intelligenz (KI) in S/4HANA-Systemen ebenso grundsätzlich sicherzustellen, wie die aus den zahlreichen neuen KI-Funktionen wie bspw. ChatGPT bzw. OpenAI resultierenden Funktions- und Integrationsszenarien.

Einheitliche und standardisierte Rahmenbedingungen sowie umfassendes Monitoring.

Bei der Integration großer Sprachmodelle (LLM) in SAP-Business-Prozesse muss SAP ein zentrales Monitoring der Integration und der abgewickelten Transaktionen ermöglichen. Zudem müssen die Transaktionen wie die mit Hilfe des LLM getroffenen Entscheidungen in unternehmenskritischen Prozessen nachvollziehbar sein. Sobald es sich um für die Rechnungslegung relevante Prozesse handelt, sind die Anforderungen der (IT-)Prüfungsstandards ebenso wie branchenspezifische Prüfungs- und Auditierungsstandards zu beachten. Dazu gehört z. B. eine prozessbasierte GoBD-Verfahrensdokumentation, um den Betriebs- und Wirtschaftsprüfer:innen einen schnellen Überblick über die GoBD-Anforderungen (inbes. lückenlose Dokumentation von Entscheidungsgrundlagen für kaufmännische Buchungen – hier: KI) zu ermöglichen. Zudem braucht es eine klare Regelung von Rollen, Verantwortlichkeiten und ein vollautomatisiertes internes Kontrollsystem (IKS) inklusive einfacher, transparenter Kontrollen und der Bewertung von Risiken.

Angemessene Preismodelle je nach Reifegrad und Umfang der KI-Funktionen.

Es braucht angemessene und transparente Lizenz- und Nutzungsbedingungen. Für die von SAP bereits bekanntgegebenen Partnerschaften mit IBM, Google und Microsoft wird ein kommerzielles Angebot „aus einer Hand“ benötigt. Die kaufmännische Orchestrierung der KI-Funktionen aus diesen Partnerschaften dürfen nicht zu Lasten der Anwendungsunternehmen gehen, sodass diese mit den Anbietern selbst verhandeln müssen. SAP-Kunden sollten alle benötigten Komponenten für die Integration von KI-Algorithmen der Partner komplett über SAP beziehen und auf Basis prozess- oder transaktionsbasierter Metriken erhalten. SAP sollte wenigstens für den Mittelstand als Vertragspartner auftreten, damit dieser keine weiteren Verträge mit anderen Anbietern wie z. B. OpenAI oder Aleph Alpha eingehen muss.

SAP hat pauschal angekündigt, für KI-basierte Services im Rahmen von Premium-RISE-with-SAP-Angeboten Preisaufschläge von bis zu 30 Prozent zu fordern. Da der Software-Hersteller die damit verbundenen Services noch nicht für die entsprechenden Anwendungsszenarien vollumfänglich bereitgestellt hat, müssen sich die Unternehmen nach Ansicht der DSAG die berechtigte Frage stellen: Kann und will SAP als Anbieter von KI-gestützten Szenarien ein relevanter Akteur werden?

Klarheit zur indirekten Nutzung von Daten aus SAP-Systemen für KI-Anwendungen.

Aus DSAG-Sicht braucht es einheitliche Regelungen zur Integration von KI-Modellen in SAP-Applikationen. Insofern derzeit Informationen zwischen SAP-Software und einem Drittsystem ausgetauscht werden, verstößt dies gegen die Bedingungen einer herkömmlichen Benutzerlizenz. Das darf künftig nicht der Fall sein, wenn ein LLM-Modell als Nicht-Named-User auf die SAP-Software zugreift und gegebenenfalls auch Aktionen in ihr ausführt. SAP muss das einheitlich für alle SAP-Produkte in den Lizenzvereinbarungen sicherstellen.

KI-Anwendungen müssen durch die Unternehmen nutzbar sein.

Neben Referenzarchitekturen braucht es aus DSAG-Sicht insbesondere Best-Practice-Guides und Standards für die Integrationsszenarien und -technologien – insbesondere, um sicherzustellen, dass der erforderliche Datenschutz bei der Verarbeitung von personenbezogenen und sensiblen Unternehmensdaten eingehalten wird. Generische Architekturen und Absichtserklärungen mit Partnerunternehmen sind hier nicht ausreichend. Vielmehr werden konkrete Use Cases mit und innerhalb von SAP-Prozessen benötigt. Deren Mehrwert sollte für die Anwenderunternehmen dahingehend transparent gemacht werden, dass hieraus Business-Cases gerechnet werden können, aber auch alle Informationen zur Umsetzung bereitgestellt werden können (vgl. SAP Discovery Center).

Unterstützung beim Aufbau von KI-Kompetenzen in den Öffentlichen Verwaltungen.

Kompetenzen im Bereich der KI sind aus DSAG-Sicht derzeit noch in den Unternehmen oder der Wissenschaft gebündelt, die KI-basierte Anwendungen entwickeln, implementieren oder erforschen. Hier sollten SAP und DSAG den Schulterschluss suchen und gemeinsam die erforderlichen Kompetenzen aufbauen und zusammenbringen. Aus DSAG-Sicht eignen sich hierfür z. B. Initiativen wie die DSAG-Academy und Veranstaltungen wie die DSAG-Personaltage.

DSAG-Forderungen im KI-Kontext

Eine staatliche KI-Strategie ist notwendig.

Neue Technologien benötigen zeitnah Rahmenbedingungen, die den Anforderungen einer digitalisierten Welt Rechnung tragen, um ihren vollen wirtschaftlichen Mehrwert erbringen zu können. Eine staatliche KI-Strategie ist somit wichtig, wenn sie die nötigen institutionellen und praxisnahen Rahmenbedingungen für die Weiterentwicklung der Technologie schafft. Sie sollte gleichzeitig den Forschergeist stärken und Innovationen durch einfache Wettbewerbsregeln fördern, um neue Geschäftsmodelle zu ermöglichen.

Ein Einsatz von KI sollte wirtschaftlich attraktiv für den Mittelstand sein.

Der Einsatz von KI-Technologie kann speziell im Mittelstand wirtschaftlich attraktiv sein, wenn es greifbare Modelle zur Adaption gibt. Insbesondere der Mittelstand sollte beim Einsatz neuer Technologien wie Künstliche Intelligenz von staatlicher Seite stärker gefördert werden.

Ein strenger Datenschutz darf nicht zum Show-Stopper werden.

Die strengen Datenschutzrichtlinien basieren auf altem Know-how und müssen auf jetzige Szenarien angepasst sowie für Zukunftsszenarien vorbereitet werden. Diese Themen dürfen kein Hemmnis für einen wirtschaftlich erfolgreichen Einsatz von KI-Technologien sein – schließlich werden zur Verbesserung von KI-Algorithmen große Datenmengen benötigt.

Eine koordinierende Stelle zum Einsatz von KI im Öffentlichen Sektor.

Es sollte sich nicht jede Kommune und jede Behörde einzeln mit den grundlegenden Fragen zum Einsatz Künstlicher Intelligenz im Detail beschäftigen müssen. Es braucht hier eine zentrale Stelle, damit der Wissenstransfer auf allen Verwaltungsebenen gesichert ist. Zudem müssen ein verlässlicher rechtlicher Rahmen sowie Hilfestellungen von technischer und organisatorischer Seite gegeben sein. Gleichzeitig ist ein Aus- und Fortbildungsangebot notwendig.

Fazit und Ausblick

Aus DSAG-Sicht ist es wichtig, dass Anwenderunternehmen prüfen, welche Möglichkeiten die genannten neuen Werkzeuge für ihre Ziele bieten. Künstliche Intelligenz ist ein mächtiges Werkzeug. Die Digitalisierung bedeutet allerdings eine Trendwende für alle. Künstliche Intelligenz ist in der Öffentlichen Wahrnehmung und Positionierung der Beratungsunternehmen ein von der Digitalisierung vermeintlich entkoppeltes Schlagwort, das in den nächsten Jahren zunehmend auch die Menschen in den Unternehmen beschäftigen wird. Hierbei wird gerne verkannt, dass KI als alleiniges Instrument keinen Lösungsansatz darstellt. Vielmehr werden erst Daten benötigt, die, wenn man sie bündelt und mit den richtigen Analysewerkzeugen verarbeitet, Erkenntnisse hervorbringen, die jeder allein niemals oder zumindest nicht so schnell entdecken könnte.

Ein häufiger Trugschluss ist aus DSAG-Sicht zudem, dass alles, was Künstliche Intelligenz betrifft, die in Unternehmen eingesetzt werden soll, von technischen Expert:innen und Berater:innen auch erfolgreich implementiert werden kann. Vielmehr sind die Expert:innen in den Anwenderunternehmen der Schlüssel, um von den Vorteilen echter KI-Systeme zu profitieren.

Wie erwähnt, hat SAP erkannt, dass KI ein wichtiges Zukunftsthema ist und ergänzt dementsprechend das bestehende Portfolio sukzessive mit Blick auf die Business-Anforderungen der Unternehmen. Inwieweit es zur Strategie von SAP passt, sich aus Produkten und/oder ganzen Industrien zurückzuziehen (vgl. Gesundheitswesen/Krankenhäuser[46]), bleibt leider noch offen – auch wird die Nutzung entsprechender KI-Services für die Anwendungsunternehmen ungleich komplexer, wenn für die Abbildung dieser Szenarien abermals hybride Integrations- und Architekturszenarien erforderlich werden. Denn auch wenn sich SAP an strenge ethische Richtlinien für den KI-Einsatz halten will, verbleibt die Beantwortung rechtlicher und regulatorischer Fragen für komplette Prozessketten damit bei den Anwendungsunternehmen, anstelle diese als kompletten Business-Service von SAP beziehen zu können – und die kommerziellen Rahmenbedingungen sind wie bereits erwähnt, mit allen beteiligten Anbietern separat zu vereinbaren.

Spezialisierung der Modelle wahrscheinlich

Spannend sind auch die Entwicklungen bei SAP selbst: So verliert SAP seine KI-Chefin Feiyu Xu, die ihrerseits ein Start-up gründet. Damit arbeitet in Deutschland neben Aleph Alpha ein weiteres Start-up an der Entwicklung generativer KI. Diese Anbieter werden sich von der ChatGPT-Plattform dahingehend absetzen, dass sie für die Anwendungsunternehmen spezialisierte Einsatzmöglichkeiten entwickeln. Im Gegensatz zu dem Training von ChatGPT aus digitalisierter Literatur und frei verfügbaren Inhalten im Internet werden sich diese Lösungen auf gezielte Antworten aus Handbüchern und Dokumentationen von Maschinen oder Fachliteratur konzentrieren. Damit sind diese Modelle nicht generisch einsetzbar, fokussieren sich aber auf die Anforderungen von Unternehmen in verschiedenen Branchen und unterscheiden sich somit sowohl bei den technischen Ansätzen als auch bei den verwendeten Datenmengen und der benötigten Rechenleistung. Diese spezialisierten Sprachmodelle könnten dann auch unternehmensspezifisch trainiert werden – bspw. mit Patentdaten, Prozesshandbüchern, juristischen Dokumenten oder sogar selbst entwickelten Programmiersprachen für Steuerelemente uvm.

Anwendungsfälle und Herausforderungen für Unternehmen

Die DSAG geht davon aus, dass sich durch den Einsatz von LLMs mittelfristig die Arbeitsstrukturen im Mittelstand verändern werden und das Zusammenspiel zwischen Systemen und User:innen neu definiert wird. Durch die neuen Technologien werden neben der Automatisierung und Beschleunigung von Prozessen eine effizientere Nutzung von Daten in den Unternehmen Einzug halten. Besonders profitieren könnten aus DSAG-Sicht Unternehmen mit hohem digitalem Reifegrad. Sie können KI zur Prozessautomatisierung und für mehr Dateneffizienz nutzen und auf Basis der neuen Möglichkeiten Geschäftsmodelle (weiter-)entwickeln.

Dennoch sind die allerorts spürbaren Hürden nicht zu unterschätzen, die neuen Technologien zu adaptieren. Dazu gehören fehlende Kompetenzen und Ressourcen, technische und kommerzielle Implementierungshürden sowie die Qualität der zugrundeliegenden Unternehmensdaten. Sie stellen schon heute bekannte Herausforderungen dar. Auch werfen fehlende Rahmenbedingungen für den Einsatz von KI, ein zu hoher Aufwand im Vergleich zum Ertrag und mangelnde Transparenz bei KI-Entscheidungen Fragen auf, die derzeit nur unzureichend beantwortet werden können und für die bisher keine gesetzlichen Rahmenbedingungen oder Industriestandards existieren.

Unternehmen, die über die Integration von LLMs in ihre Arbeitsabläufe nachdenken, sollten aus DSAG-Sicht eine Risikoanalyse für ihren konkreten Anwendungsfall durchführen. Sie sollten evaluieren, ob die benannten Risiken für ihre Arbeitsabläufe eine Gefahr darstellen. Darauf aufbauend sollten existierende Sicherheitsmaßnahmen angepasst werden. Aufgrund der vielen offenen Fragen zum Einsatz von KI-Sprachmodelle erscheint es derzeit ratsam, die neuen Angebote zunächst als Werkzeuge zu betrachten, deren Ergebnisse, etwa bei der Erstellung von Programm-Code oder Texten, überprüft werden sollten.

Jetzt PDF herunterladen

[1] https://www.computerwoche.de/a/eine-kleine-geschichte-der-kuenstlichen-intelligenz,3330537,3, zuletzt abgerufen: 12.06.2023, 19:30 Uhr

[2] https://www.plattform-i40.de/IP/Redaktion/DE/Downloads/Publikation/KI-industrie-40.pdf?__blob=publicationFile&v=10, zuletzt abgerufen: 12.06.2023, 20:09 Uhr

[3] https://www.cisin.com/coffee-break/de/technology/human-intelligence-ai-difference-pros-cons-human-ai.html, zuletzt abgerufen: 12.06.2023, 20:28 Uhr

[4] https://ec.europa.eu/futurium/en/system/files/ged/ai_hleg_definition_of_ai_18_december_1.pdf, zuletzt abgerufen: 12.06.2023, 20:35 Uhr

[5] https://novustat.com/statistik-blog/kuenstliches-neuronales-netz-einfach-erklaert.html, zuletzt abgerufen: 12.06.2023, 20:42 Uhr

[6] https://www.heise.de/news/Biometrische-Massenueberwachung-EU-Abgeordnete-wollen-KI-demokratisieren-9009297.html, zuletzt abgerufen: 12.06.2023, 19:52 Uhr

[7] https://leam.ai/, zuletzt abgerufen: 12.06.2023, 19:55 Uhr

[8] https://www.basicthinking.de/blog/2023/04/04/ki-deutschland/, zuletzt abgerufen: 12.06.2023, 19:58 Uhr

[9] https://the-decoder.de/ki-modell-bloom-echte-open-source-alternative-zu-gpt-3/, zuletzt abgerufen: 12.06.2023, 20:00 Uhr

[10] https://www.heise.de/news/OpenGPT-X-Europaeisches-KI-Sprachmodell-startet-durch-mit-15-Millionen-Euro-6333726.html, zuletzt abgerufen: 12.06.2023, 19:59 Uhr

[11] https://www.welt.de/wirtschaft/article245266968/SAP-steigt-bei-deutschem-KI-Spezialisten-Aleph-Alpha-ein.html, zuletzt abgerufen: 12.06.2023, 19:15 Uhr