Innovationsstraße: Generative KI

In unserem ersten Thema beschäftigen wir uns mit generativer künstlicher Intelligenz (KI). Wenn es derzeit Schlagwörter im Zusammenhang mit KI gibt, dann sind es ChatGPT oder seine bildgebenden Pendants wie beispielsweise Stable Diffusion, Dall-E oder MidJourney.

Wer erinnert sich nicht an die Verhaftung von Donald Trump oder an den Papst in einer Balenciaga Drip Winterjacke?

Generative KI ist eine Technologie, die aus bestehenden Beispielen lernt, um neue, realistische Inhalte in großem Umfang zu erstellen. Sie kann beispielsweise Bilder, Videos, Musik, Sprache, Texte, Softwarecode und Produktdesigns erzeugen, die zwar originell sind, aber von dem Gelernten inspiriert wurden.

Diese Technologie nutzt fortschrittliche Verfahren, die ständig verbessert werden. Eine wichtige Methode besteht darin, große KI-Modelle mit großen Mengen unbeschrifteter Daten zu trainieren und sie anschließend für spezifische Aufgaben zu optimieren. Die Erstellung dieser Modelle erfordert komplexe mathematische Berechnungen und enorme Rechenleistung, aber im Grunde sagen sie voraus, was als Nächstes passieren wird.

Aktuell erstellt generative KI oft Dinge, wenn man sie in normaler Sprache dazu auffordert – ganz ohne Programmierung. Unternehmen können sie aber für viele Zwecke einsetzen, beispielsweise zur Entwicklung neuer Medikamente, zum Design von Computerchips und zur Erforschung neuer Materialien.

Insgesamt birgt generative KI zwar ein immenses Innovations- und Kreativitätspotenzial, ihr negativer Ruf rührt jedoch von berechtigten Bedenken hinsichtlich ihrer ethischen, sozialen und rechtlichen Implikationen her. Um diesen Bedenken zu begegnen, bedarf es einer gemeinsamen Anstrengung von Forschern, politischen Entscheidungsträgern, Akteuren der Industrie und der Zivilgesellschaft, um robuste Schutzmechanismen zu entwickeln, verantwortungsvolle Praktiken zu fördern und die mit KI-Technologien verbundenen Risiken zu minimieren. Bereits 2016 veröffentlichte Cathy O’Neil das sehr empfehlenswerte Buch „ Weapons of Math Destruction“ .

„Weapons of Math Destruction“ untersucht die negativen Auswirkungen algorithmischer Entscheidungssysteme, die sie als „undurchsichtige, unregulierte und destruktive mathematische Modelle“ bezeichnet. Es gibt mehrere Ähnlichkeiten zwischen den in O’Neils Buch angesprochenen Problemen und der negativen Aufmerksamkeit, die der generativen KI zuteilwird.

Intransparenz und mangelnde Transparenz

Sowohl algorithmische Systeme als auch generative KI-Modelle können intransparent arbeiten, was es Nutzern erschwert, die Entscheidungsprozesse oder die Inhaltsgenerierung nachzuvollziehen. Dieser Mangel an Transparenz kann in beiden Fällen Bedenken hinsichtlich Verantwortlichkeit, Fairness und Voreingenommenheit hervorrufen.

Verstärkung von Vorurteilen und Ungleichheit

O’Neil hebt hervor, wie algorithmische Modelle Verzerrungen in den Trainingsdaten verstärken und fortführen können, was zu unfairen oder diskriminierenden Ergebnissen führt, insbesondere für marginalisierte Gruppen. Auch generative KI-Modelle können Verzerrungen aus den Trainingsdaten übernehmen und weitergeben, was zu verzerrten oder unangemessenen Inhalten führt.

Auswirkungen auf Einzelpersonen und die Gesellschaft

Sowohl „Waffen der mathematischen Zerstörung“ als auch die Bedenken hinsichtlich generativer KI betonen die potenziell negativen Auswirkungen auf Einzelpersonen und die Gesellschaft. O’Neil erörtert, wie algorithmische Systeme Einzelpersonen schaden können, indem sie ihnen Chancen verwehren oder gesellschaftliche Ungleichheiten verstärken. Ebenso können generative KI-Modelle schädliche Inhalte wie Deepfake-Videos oder Fehlinformationen erzeugen, die schwerwiegende Folgen für Einzelpersonen und die Gesellschaft insgesamt haben können.

Mangelnde Regulierung und Aufsicht

O’Neil hebt den Mangel an Regulierung und Aufsicht im Bereich algorithmischer Entscheidungssysteme hervor, wodurch schädliche Praktiken unkontrolliert bleiben können. Ebenso hat die rasante Entwicklung und der Einsatz generativer KI-Modelle die regulatorischen Rahmenbedingungen und ethischen Richtlinien überholt, was zu Bedenken hinsichtlich des verantwortungsvollen Umgangs mit dieser Technologie und ihres potenziellen Missbrauchs führt.

Notwendigkeit ethischer Überlegungen

Die Diskussionen um algorithmische Systeme und generative KI betonen gleichermaßen die Bedeutung ethischer Überlegungen und verantwortungsvoller Praktiken. O’Neil plädiert für mehr Transparenz, Verantwortlichkeit und Fairness bei algorithmischen Entscheidungen, während Befürworter generativer KI die Wichtigkeit ethischen Designs, der Vermeidung von Verzerrungen und der Einhaltung ethischer Richtlinien bei der Inhaltserstellung hervorheben.

Zusammenfassend lässt sich sagen, dass die in „Weapons of Math Destruction“ geäußerten Bedenken Ähnlichkeiten mit der negativen Aufmerksamkeit aufweisen, die generative KI umgibt, insbesondere hinsichtlich Intransparenz, Verzerrung, gesellschaftlicher Auswirkungen, regulatorischer Aufsicht und ethischer Überlegungen. Beide Ansätze unterstreichen die Notwendigkeit größerer Sensibilität, Verantwortlichkeit und ethischer Sorgfalt bei der Entwicklung und dem Einsatz algorithmischer Systeme und KI-Technologien.

Angesichts all der negativen Aufmerksamkeit, die dieser Technologie zuteilwird, was sind einige Gebote und Verbote für Ihr Unternehmen? In diesem Beitrag betrachten wir ein einzelnes Gebot und ein einzelnes Verbot.

• Verstehen Sie, was Ihr Unternehmen braucht.
• Unterschätzen Sie nicht die Bedeutung des Datenschutzes.

Machen Sie sich mit Ihren Geschäftsanforderungen vertraut und verstehen Sie, wie generative KI diese erfüllen kann.

Insgesamt birgt generative KI das Potenzial, verschiedene Aspekte der Fertigungsprozesse grundlegend zu verändern, indem sie Unternehmen ermöglicht, Innovationen voranzutreiben, Prozesse zu optimieren und sich effektiver an die sich wandelnde Marktdynamik anzupassen. Durch die Nutzung der Möglichkeiten generativer KI können Unternehmen Wettbewerbsvorteile erzielen und nachhaltiges Wachstum im heutigen, sich rasant entwickelnden Geschäftsumfeld generieren.

Patrick Strauss erörtert die Möglichkeiten generativer KI zur Erstellung digitaler Zwillinge. Ein digitaler Zwilling ist die digitale Repräsentation eines physischen Objekts. Er nutzt reale Daten (sowohl Echtzeit- als auch historische Daten) in Kombination mit Modellen aus den Bereichen Engineering, Simulation oder maschinelles Lernen (ML), um Betriebsabläufe zu optimieren und menschliche Entscheidungen zu unterstützen.

Generative KI wird digitale Umgebungen und digitale Zwillinge revolutionieren, indem sie diese in „intelligente Umgebungen“ und „intelligente Zwillinge“ verwandelt. Diese Integration wird durch die Erweiterung der menschlichen Arbeitskraft mittels generativer KI ermöglicht, die sogar „selbstfahrende“ digitale Zwillinge und Umgebungen ermöglichen kann.

Beispiele für Anwendungsbereiche, in denen generative KI von Vorteil sein kann, sind:

• Produktdesign und Prototyping
• Optimierung des Herstellungsprozesses
• Optimierung der Lieferkette.

Produktdesign und Prototyping

Generatives Design zielt darauf ab, neue Formen zu schaffen – darunter auch solche, an die man noch nie gedacht hätte –, Formen, die gegenüber herkömmlichen Formen Gewichtsvorteile bieten, indem Material effizient dort platziert wird, wo es benötigt wird, und dort entfernt wird, wo es nicht benötigt wird. Der VW-Bus zog nach seiner Präsentation auf der Hauptbühne einen stetigen Besucherstrom an.

Generative KI-Algorithmen unterstützen die Entwicklung und das Prototyping neuer Produkte, indem sie auf Basis vorgegebener Parameter und Einschränkungen vielfältige und innovative Designkonzepte generieren. Unternehmen können generative KI nutzen, um schnell und effizient ein breites Spektrum an Designmöglichkeiten zu erkunden und so Produktdesigns rasch zu iterieren und zu optimieren.

Optimierte Fertigungsprozesse

Generative KI kann Produktionsdaten analysieren und Optimierungspotenziale in Fertigungsprozessen identifizieren, beispielsweise durch Steigerung der Produktionseffizienz, Reduzierung von Abfall und Minimierung von Ausfallzeiten. Sie trägt außerdem zur Optimierung des Materialeinsatzes und der Ressourcenzuweisung im Fertigungsprozess bei.

Durch die Analyse von Materialeigenschaften und Produktionsbeschränkungen können generative KI-Algorithmen Designänderungen und Materialalternativen vorschlagen, um Abfall zu minimieren, Produktionskosten zu senken und die Nachhaltigkeit zu verbessern. Mithilfe dieser Algorithmen können Fertigungsunternehmen optimale Prozessparameter und -konfigurationen ermitteln, die die Produktivität maximieren und die Kosten minimieren.

Optimierung der Lieferkette

Generative KI kann zur Optimierung von Lieferkettenprozessen beitragen, indem sie die Nachfrage prognostiziert, potenzielle Engpässe identifiziert und Lagerbestände optimiert. Durch die Analyse historischer Daten und Echtzeitinformationen liefern generative KI-Algorithmen wertvolle Einblicke in die Dynamik der Lieferkette und ermöglichen Unternehmen so fundierte Entscheidungen und eine Steigerung der Gesamteffizienz.

Unterschätzen Sie nicht die Bedeutung von Datenschutz und ethischen Überlegungen im Zusammenhang mit generativer KI.

Ihre Mitarbeiter nutzen ChatGPT wahrscheinlich bereits zur Unterstützung ihrer Arbeitsaufgaben. Anstatt die Nutzung gänzlich zu verbieten, empfiehlt Gartner, klare Richtlinien zu erstellen, um verdeckte Nutzung zu verhindern und die Einhaltung der Vorschriften sicherzustellen.

Gestalten Sie die Richtlinie unkompliziert. Sie könnte so einfach sein wie drei Dinge, die man nicht tun sollte, und zwei Dinge, die man tun sollte, insbesondere wenn Sie Tools wie ChatGPT oder ähnliche Standardmodelle verwenden:

• Geben Sie keine persönlichen Daten ein.
• Geben Sie keine sensiblen Daten ein.
• Geben Sie keine Firmengeheimnisse oder geistiges Eigentum ein.
• Denken Sie daran, den Verlauf zu deaktivieren, wenn Sie externe Tools (wie ChatGPT) verwenden, die diese Option anbieten.
• Behalten Sie die Ergebnisse genau im Auge. Manchmal können sie subtile Fehler, Ungenauigkeiten oder voreingenommene Aussagen enthalten.

Alles beginnt mit Bewusstsein.

Um zu verhindern, dass persönliche Daten auf Plattformen wie ChatGPT oder ähnlichen generativen KI-Modellen eingegeben werden, sollten Nutzer über die Bedeutung des Datenschutzes und die potenziellen Risiken der Eingabe sensibler Daten auf KI-gestützten Plattformen aufgeklärt werden. Es sollten klare Richtlinien und Beispiele für Informationen bereitgestellt werden, die nicht geteilt werden dürfen. Es sollte deutlich gemacht werden, welche Informationen als vertraulich oder sensibel gelten und nicht auf der Plattform eingegeben werden dürfen.

Ermutigen Sie Nutzer, ihre Dateneingaben bei der Interaktion mit generativen KI-Plattformen zu anonymisieren oder zu generalisieren. Anstatt echte Namen, Adressen oder andere persönliche Identifikationsmerkmale zu verwenden, sollten sie generische Platzhalter oder fiktive Beispiele nutzen.

Neben den bereits erwähnten Schulungen und Trainings können Zugriffskontrollen und Berechtigungen implementiert werden, um die Interaktion mit ChatGPT innerhalb Ihrer Organisation einzuschränken. Wird auf Tools wie ChatGPT über einen Proxy-Dienst zugegriffen, beispielsweise über das Infor OS ION API- Gateway, können Protokollierung und Überwachung bereitgestellt werden.

Regelmäßige Überprüfungen und Analysen der Interaktionen und Ergebnisse Ihrer Mitarbeiter können durchgeführt werden. Achten Sie dabei auf Muster oder Anomalien, die auf Missbrauch oder Verstöße gegen die Compliance-Vorgaben hindeuten könnten.

Charles Korthout

Lösungsarchitekt bei partners 2 innovate

Besuchen Sie uns auf LinkedIn und erleben Sie Innovationen hautnah, wo Ideen Gestalt annehmen und Verbindungen Großartiges bewirken!