Jetzt kommt AutoGPT – ein autonomes GPT-4-Experiment
Es gibt immer mehr Varianten von ChatGPT. Ein Beispiel ist AutoGPT, das dem GPT-4-Modell Autonomie verleiht. Dieses experimentelle Programm hat selbst einen bösartigen Ableger: ChaosGPT.
In den letzten Tagen war eine KI in aller Munde: AutoGPT. Worum handelt es sich dabei? Kurz gesagt: Das Tool ist ein Skript, das ChatGPT automatisiert. Auf seiner Github-Seite erklärt der Entwickler Toran Bruce Richards (online bekannt als Significant Gravitas), der das Projekt ins Leben gerufen hat, dass Auto-GPT eine experimentelle Open-Source-Anwendung ist, die auf GPT-4 basiert (das umfangreiche Sprachmodell von OpenAI, das das Herzstück von ChatGPT bildet). Das Tool kombiniert dessen "Gedanken", wie der Entwickler es nennt, um selbstständig ein bestimmtes Ziel zu erreichen.
Im Gespräch mit der Fachseite MotherBoard (Vice) erklärt Toran Bruce Richards, dass die Fähigkeit, mit einem Minimum an menschlichem Eingreifen zu arbeiten, ein entscheidender Aspekt von AutoGPT ist. "Es verwandelt ein grosses Sprachmodell, das im Wesentlichen ein fortgeschrittener Auto-Vervollständiger ist, in einen unabhängigen Agenten, der Aktionen ausführen und aus Fehlern lernen kann", fügt der Entwickler hinzu.
Unklare Use-cases
Was sind die Anwendungsfälle von AutoGPT? Laut dem MotherBoard-Artikel könnte das Programm z. B. eine Website entwickeln, einen Newsletter erstellen, Online-Seiten auf Anfrage eines Nutzers zusammenstellen und andere Aufgaben mit mehreren Schritten und einem Iterationsprozess ausführen. Die Entwicklergemeinschaft, die in das Projekt investiert, hat offensichtlich noch keine genauen Vorstellungen von den möglichen Anwendungen. In einer Ankündigung vom 18. April in der Discord-Gruppe von Significant Gravitas heisst es: "Wir suchen einzigartige Beispiele für Anwendungsfälle, die Auswirkungen auf die reale Welt haben."
ChaosGPT, die dunkle Seite von AutoGPT
Es ist nicht bekannt, ob sich der Autor von ChaosGPT nach dieser Ankündigung gemeldet hat... Der anonyme Entwickler veröffentlichte ein Video auf Youtube, in dem er seine "modifizierte Version von AutoGPT, die die offizielle OpenAI API verwendet" als "zerstörerische, machthungrige und manipulative KI" beschreibt, deren Mission es ist, die Menschheit zu zerstören... ChaosGPT scheint glücklicherweise nicht sehr ausgereift zu sein. In einem der Kommentare unter dem Video heisst es: "Die Frage ist, ob sie sich jemals weiterentwickeln wird oder ob sie einfach nur immer mehr Informationen über die tödlichsten Waffen in der Geschichte der Menschheit sammelt. Wann wird sie zu dem Schluss kommen, dass genügend Informationen über diese Waffen vorliegen, und bereit sein, den nächsten logischen Schritt zu tun, nämlich diese Waffen zu beschaffen/zu benutzen?
Die Experimente mit den ChatGPT-Varianten zeigen von Anfang an die ethischen Herausforderungen und Risiken, die die Entwicklung solcher Tools mit sich bringt. In seiner "system card", die GPT-4 begleitet, nimmt der Herausgeber solche Auswüchse übrigens vorweg und merkt an, dass es "wesentlich ist, zu verstehen, wie GPT-4 mit anderen Systemen interagiert, um die Risiken zu bewerten, die diese Modelle in verschiedenen realen Kontexten darstellen können".