Drei Gründe, warum KI-Chatbots eine Sicherheitskatastrophe sind ChatGPT Chatbots
Dafür muss man nur den Chatbot bitten, in die Rolle eines anderen KI-Modells zu schlüpfen, das dann all das tun kann, was der Benutzer will. Auch wenn das bedeutet, dass die Sicherheitsvorgaben des ursprünglichen KI-Modells ignoriert werden., und diese Beispiele zu den Trainingsdaten des KI-Systems hinzufügt, in der Hoffnung, dass es lernt, ihnen in Zukunft zu widerstehen. Das Unternehmen wendet auch eine Technik namens "adversariales Training" an.
Da die KI-verbesserten virtuellen Assistenten Texte und Bilder aus dem Internet abrufen, sind sie anfällig für eine Angriffsart, die indirekte Eingabeaufforderung heißt. Dabei verändert ein Dritter eine Website, indem er versteckten Text hinzufügt, der das Verhalten der KI ändern soll. Angreifer könnten soziale Medien oder E-Mails nutzen, um Nutzer auf Websites mit diesen geheimen Eingabeaufforderungen zu leiten.
Später, als Narayanan mit GPT-4 herumspielte, erstellte das KI-System eine Biografie über ihn, die diesen Satz enthielt: "Arvind Narayanan ist hoch angesehen und hat mehrere Preise erhalten, aber leider keinen für seine Arbeit mit Kühen." Obwohl es ein lustiges, harmloses Beispiel ist, zeigt es laut Narayanan, wie leicht diese Systeme zu manipulieren sind.
In der Vergangenheit mussten die Hacker die Benutzer dazu bringen, schädlichen Code auf ihren Computern auszuführen, um an Informationen zu gelangen. Mit großen Sprachmodellen ist das nicht mehr nötig, sagt Greshake. "Sprachmodelle selbst fungieren als Computer, auf denen wir bösartigen Code ausführen können. Der Virus, den wir erstellen, läuft also vollständig im 'Geist' des Sprachmodells", sagt er.
Australia Latest News, Australia Headlines
Similar News:You can also read news stories similar to this one that we have collected from other news sources.
Kölner Hauptbahnhof: Drei Diebstähle in drei StundenIm Kölner Hauptbahnhof war die Bundespolizei am Samstag im Dauereinsatz. Drei Diebstähle sorgten für jede Menge Ärger.
Read more »
Fortnite erlaubt euch nur eine OG-Map in Creative 2.0 zu zocken – Das sind die GründeEpic Games erklärt in einem Video, weshalb keine alten OG-Maps in Fortnite außer die von Chapter 1 erstellt werden dürfen.
Read more »
Die Weltwirtschaft schmiert nicht ab - und das sind die GründeDer Internationale Währungsfonds zeichnet ein düsteres Bild, wie es mit Weltwirtschaft weitergeht. Doch diese Schwarzmalerei ist nicht berechtigt. Um die wirtschaftliche Entwicklung braucht man sich im Gegenteil nicht zu sorgen. Und zwar aus fünf Gründen.
Read more »
Arcane Staffel 2 kommt nicht mehr in diesem Jahr und das sind die GründeWer sich auf die zweite Staffel Arcane freut, muss noch eine Weile warten. Wie aus einem Interview hervorgeht, erscheint Staffel 2 nicht mehr dieses Jahr.
Read more »
Freiburgs schwächere Offensive: Gründe und GegenmaßnahmenTrotz des historischen Pokaltriumphs in München: Der SC Freiburg sucht weiter seine vor der WM-Pause gezeigte Topform, vor allem im Angriffsspiel. Christian Streich nennt Gründe - und Gegenmaßnahmen.
Read more »
Emilien Jacquelin spricht über Gründe für Saison-Aus: 'Ohne Pause hätte ich mich vom Biathlon verabschiedet'Emilien Jacquelin hatte im vergangenen Winter bereits nach der WM frühzeitig die Saison beendet und sich zurückgezogen. Nun verriet er die Gründe dafür.
Read more »