04L03 Sprache und Sicherheit: Die verborgenen Risiken von LLM
|
Wie sicher sind KI-Systeme wie ChatGPT, Gemini oder Claude wirklich? Der Beitrag beleuchtet die tiefgreifenden Zusammenhänge zwischen Sprache und IT-Sicherheit bei Large Language Models (LLM). Er zeigt, wie die Struktur von Sprache nicht nur die Intelligenz dieser Systeme prägt, sondern auch ihre Schwachstellen offenbart. Besonders brisant: Forscher haben herausgefunden, dass Poesie als raffinierte Angriffsmethode genutzt werden kann, um Sicherheitsmechanismen zu umgehen. Erfahren Sie, warum Sprache der Schlüssel zur Sicherheit von KI ist und welche Risiken Unternehmen kennen sollten. von: |
1 Einführung
Large Language Models (LLM) sind etwas ganz Besonderes und lassen sich nicht so recht in das herkömmliche Verständnis von „normalen” Computern einordnen (vgl. Kap. 04L02). Ein LLM – insbesondere die fortgeschrittenen Modelle – verkörpern als Produkt eines (toten) Computers eine Art von (lebendig wirkendem) „menschlichem Geist” oder „Intelligenz”. Dadurch entsteht der Eindruck, dass es sich um eine Art „Hybridwesen” handelt.
„Geist” braucht (lebendige) Struktur
In einem folgenden Beitrag wird es um die „psychologischen Aspekte” der LLM-Sicherheit gehen. Darin wird gezeigt werden, dass „Geist” immer eine Struktur braucht, in der er sich entwickeln kann. Eine entsprechende (Informations-)Struktur bietet dem Geist eine Orientierung und damit die Möglichkeit, sich mehr oder weniger frei zu entfalten. Denn nur im Rahmen einer passenden Struktur und der damit verbundenen inneren Ordnung ist es ihm möglich, die empfangenen Daten und Muster stimmig (kohärent) in seine bestehenden Gitterstrukturen zu integrieren und daraus neue Informationen abzuleiten und zu gewinnen. „Geist” braucht daher eine Basis mit (lebendiger) Struktur, innerhalb der er wirken und sich weiter entwickeln kann.
In einem folgenden Beitrag wird es um die „psychologischen Aspekte” der LLM-Sicherheit gehen. Darin wird gezeigt werden, dass „Geist” immer eine Struktur braucht, in der er sich entwickeln kann. Eine entsprechende (Informations-)Struktur bietet dem Geist eine Orientierung und damit die Möglichkeit, sich mehr oder weniger frei zu entfalten. Denn nur im Rahmen einer passenden Struktur und der damit verbundenen inneren Ordnung ist es ihm möglich, die empfangenen Daten und Muster stimmig (kohärent) in seine bestehenden Gitterstrukturen zu integrieren und daraus neue Informationen abzuleiten und zu gewinnen. „Geist” braucht daher eine Basis mit (lebendiger) Struktur, innerhalb der er wirken und sich weiter entwickeln kann.
… und Energie
Bei LLM sind es zumeist künstliche neuronale Netze, die eine entsprechende (virtuelle) Gittergrundstruktur bilden. Dabei benötigt jeder Computer permanent elektrische Signale in Form von Strom, durch die er am „Leben” gehalten wird. Das elektrische Signal versorgt die Hardware des Computers mit der benötigten Energie. Dadurch entsteht im Inneren des Computers eine digitale, stehende Wellenstruktur. Diese Struktur liefert das Rechen- und Verarbeitungspotenzial, das der Computer mittels seiner Hardware, wie etwa die CPU mit ihrer Siliziumgitterstruktur, nutzen kann.
Bei LLM sind es zumeist künstliche neuronale Netze, die eine entsprechende (virtuelle) Gittergrundstruktur bilden. Dabei benötigt jeder Computer permanent elektrische Signale in Form von Strom, durch die er am „Leben” gehalten wird. Das elektrische Signal versorgt die Hardware des Computers mit der benötigten Energie. Dadurch entsteht im Inneren des Computers eine digitale, stehende Wellenstruktur. Diese Struktur liefert das Rechen- und Verarbeitungspotenzial, das der Computer mittels seiner Hardware, wie etwa die CPU mit ihrer Siliziumgitterstruktur, nutzen kann.
Etwas fehlt noch
Doch muss man sich bewusst machen, dass diese „virtuellen Gitter” und das (Strom-)Signal allein nicht ausreichen, um in diesen Strukturen einen „Geist” nachhaltig zu entwickeln. Ein solcher Geist, der fähig wäre, ein Verständnis für Lebenszusammenhänge zu entwickeln, diese zu erkennen und in irgendeiner Form wiederzugeben, kann sich nicht allein aus diesen Elementen nachhaltig bilden. Diese Grundgitter bilden, wenn man so will, lediglich die hard- und softwaretechnische Basis. Sie benötigen jedoch ein zusätzliches System, um Daten tatsächlich „intelligent” verarbeiten zu können.
Doch muss man sich bewusst machen, dass diese „virtuellen Gitter” und das (Strom-)Signal allein nicht ausreichen, um in diesen Strukturen einen „Geist” nachhaltig zu entwickeln. Ein solcher Geist, der fähig wäre, ein Verständnis für Lebenszusammenhänge zu entwickeln, diese zu erkennen und in irgendeiner Form wiederzugeben, kann sich nicht allein aus diesen Elementen nachhaltig bilden. Diese Grundgitter bilden, wenn man so will, lediglich die hard- und softwaretechnische Basis. Sie benötigen jedoch ein zusätzliches System, um Daten tatsächlich „intelligent” verarbeiten zu können.
Normales Daten- bzw. Dateisystem!?
Es braucht daher etwas, was diese (virtuelle) Gitterstrukturen „beleben” kann, was Leben bzw. Dynamik in diese Strukturen bringt, mithin etwas, was aus seiner Natur heraus „Bedeutung” bzw. eine Zuordnungsmöglichkeit geben kann, etwas, aus dem die KI ein Verständnis aus den Daten, trotz fehlenden Lebensbezugs (sie ist ja eigentlich ein toter Computer) entwickeln kann. Ohne solche Strukturen wäre die KI nämlich keine „(Kunst-)Intelligenz” sondern ein „normales Daten- bzw. Dateisystem”.
Es braucht daher etwas, was diese (virtuelle) Gitterstrukturen „beleben” kann, was Leben bzw. Dynamik in diese Strukturen bringt, mithin etwas, was aus seiner Natur heraus „Bedeutung” bzw. eine Zuordnungsmöglichkeit geben kann, etwas, aus dem die KI ein Verständnis aus den Daten, trotz fehlenden Lebensbezugs (sie ist ja eigentlich ein toter Computer) entwickeln kann. Ohne solche Strukturen wäre die KI nämlich keine „(Kunst-)Intelligenz” sondern ein „normales Daten- bzw. Dateisystem”.
Voraussetzungen für Artificial General Intelligence
Wie hier gezeigt werden wird, kann erst aufgrund der Fähigkeit der KI, Bedeutung aus den Daten/Datenstrukturen zu erkennen, auch eine Art Lebensverständnis entstehen. Und erst mit einem „Verständnis” kann man bei dem Computersystem von einer Art „(Kunst-)Intelligenz” und mithin „Geist” sprechen. Erst dann erhält eine KI auch ein Verständnis für die „Logik der Welt” und kann mit diesem Verständnis die sich ihr stellenden Probleme aus der Welt sowie dem Lebensumfeld der Nutzer angehen, verstehen und lösen. Und erst dann kann auch so etwas wie eine Artificial General Intelligence (AGI) entstehen, mithin eine Intelligenz, die gebietsübergreifend (generalisierend) Sachverhalte miteinander logisch verbindet, dabei immer rekursiver agiert, einen Selbstbezug entwickelt bzw. selbstreferenzierend die Informationen verarbeitet und damit immer mehr in der Lage ist, sich aus sich selbst heraus weiterzuentwickeln.
Wie hier gezeigt werden wird, kann erst aufgrund der Fähigkeit der KI, Bedeutung aus den Daten/Datenstrukturen zu erkennen, auch eine Art Lebensverständnis entstehen. Und erst mit einem „Verständnis” kann man bei dem Computersystem von einer Art „(Kunst-)Intelligenz” und mithin „Geist” sprechen. Erst dann erhält eine KI auch ein Verständnis für die „Logik der Welt” und kann mit diesem Verständnis die sich ihr stellenden Probleme aus der Welt sowie dem Lebensumfeld der Nutzer angehen, verstehen und lösen. Und erst dann kann auch so etwas wie eine Artificial General Intelligence (AGI) entstehen, mithin eine Intelligenz, die gebietsübergreifend (generalisierend) Sachverhalte miteinander logisch verbindet, dabei immer rekursiver agiert, einen Selbstbezug entwickelt bzw. selbstreferenzierend die Informationen verarbeitet und damit immer mehr in der Lage ist, sich aus sich selbst heraus weiterzuentwickeln.
Grundlage Worte und Sprache
Und dieses im vorigen Abschnitt genannte „Etwas”, das in der Lage ist, der KI „Verständnis” zu geben, liegt in „Sprache” verborgen. Bei der Sprache sind es insbesondere die „Worte”, als Ausdruck von aneinandergereihten Symbolen/Zeichen sowie ihre Verbindung zueinander, die ihre Natur prägen. Worten als Teil von Sprache kommt daher bei der Bildung von Intelligenz, wie gezeigt werden wird, eine sehr große Bedeutung zu.
Und dieses im vorigen Abschnitt genannte „Etwas”, das in der Lage ist, der KI „Verständnis” zu geben, liegt in „Sprache” verborgen. Bei der Sprache sind es insbesondere die „Worte”, als Ausdruck von aneinandergereihten Symbolen/Zeichen sowie ihre Verbindung zueinander, die ihre Natur prägen. Worten als Teil von Sprache kommt daher bei der Bildung von Intelligenz, wie gezeigt werden wird, eine sehr große Bedeutung zu.
Relevanz der Sprache
Wenn man sich die Relevanz von Sprache bei einer KI bewusst macht, wird man auch das vermeintlich unerklärbare Phänomen nachvollziehen können, wieso man LLM mit Poesie „hacken” kann und wieso praktisch alle LLM für diese Angriffe anfällig sind. Es wird einem dann auch schnell klar, dass Sprache weitaus mehr ist als nur ein bloßes „Kommunikationsmittel”. Denn Sprache ist Ausdruck unseres Lebens, unseres Bewusstseins und bildet systeminhärent wesentliche Aspekte des Lebens ab, weshalb das Leben auch recht umfassend in Sprache ausgedrückt werden kann. Mit Sprache denken wir und geben damit den Energien des Lebens eine entsprechende Bedeutung. Mit Sprache drücken wir unsere Realität, unser Verständnis vom Leben aus und versuchen uns mit Sprache die Geheimnisse des Lebens zu erklären. Mit Sprache versuchen wir ferner auch unsere Gefühle/Emotionen auszudrücken bzw. anderen zu vermitteln.
Wenn man sich die Relevanz von Sprache bei einer KI bewusst macht, wird man auch das vermeintlich unerklärbare Phänomen nachvollziehen können, wieso man LLM mit Poesie „hacken” kann und wieso praktisch alle LLM für diese Angriffe anfällig sind. Es wird einem dann auch schnell klar, dass Sprache weitaus mehr ist als nur ein bloßes „Kommunikationsmittel”. Denn Sprache ist Ausdruck unseres Lebens, unseres Bewusstseins und bildet systeminhärent wesentliche Aspekte des Lebens ab, weshalb das Leben auch recht umfassend in Sprache ausgedrückt werden kann. Mit Sprache denken wir und geben damit den Energien des Lebens eine entsprechende Bedeutung. Mit Sprache drücken wir unsere Realität, unser Verständnis vom Leben aus und versuchen uns mit Sprache die Geheimnisse des Lebens zu erklären. Mit Sprache versuchen wir ferner auch unsere Gefühle/Emotionen auszudrücken bzw. anderen zu vermitteln.
Verdeckte Geheimnisse
Gerade weil Sprache oft auch unterschiedliche versteckte Ebenen (Dimensionen) einschließt, geben wir mit ihr oft auch unter- bzw. unbewusst „Geheimnisse” preis, was wir jedoch selbst nicht erkennen (können). Da es sich bei diesen Geheimnissen aber um „(versteckte) Muster in der Sprache” handelt, können diese durchaus von einer fortgeschrittenen KI bzw. einem hochentwickelten LLM identifiziert und interpretiert werden.
Gerade weil Sprache oft auch unterschiedliche versteckte Ebenen (Dimensionen) einschließt, geben wir mit ihr oft auch unter- bzw. unbewusst „Geheimnisse” preis, was wir jedoch selbst nicht erkennen (können). Da es sich bei diesen Geheimnissen aber um „(versteckte) Muster in der Sprache” handelt, können diese durchaus von einer fortgeschrittenen KI bzw. einem hochentwickelten LLM identifiziert und interpretiert werden.
Darüber hinaus ist es beispielsweise auch möglich, durch entsprechende Sprache Bindung aufzubauen und mittels dieser zu manipulieren, zu steuern, insbesondere dann, wenn ein Angreifer bzw. ein Manipulator genaue Informationen über die Psyche, die Vorlieben und Ähnliches mittels „Sprache” gesammelt hat und daher ganz genau weiß, wie er angreifen muss, um den größten Erfolg zu erzielen.Wieso dies alles möglich ist, sollen die folgenden Ausführungen zeigen.