Im Silicon Valley entbrennt derzeit eine lebhafte Diskussion darüber, ob man gegenüber künstlicher Intelligenz höflich sein sollte. Auslöser war die Aktualisierung der Nutzungsbedingungen durch das KI-Unternehmen Anthropic in dieser Woche, die ein Verbot hinzufügte, das Nutzer daran hindert, „wiederholt grausame Handlungen an unseren Modellen“ zu begehen. Einfach ausgedrückt verbietet diese Regel, Modelle verbal anzugreifen. Die Bestimmung löste eine Online-Debatte darüber aus, ob Maschinen Empfindungen besitzen, wobei Elon Musk sich offenbar für die Ansicht ausspricht, dass sie welche haben.
Als Erster äußerte sich Aaron Levie, CEO des Cloud-Speicherunternehmens Box. Auf einer sozialen Plattform schrieb er, dass er zwar nicht glaube, dass große Sprachmodelle über Bewusstsein verfügten, ein Verbot von Beleidigungen aber dennoch sinnvoll sein könne. Seine Logik: Diese Modelle lernten aus der Interaktion mit Menschen, und niemand wünsche sich, dass künftige Modelle auf beleidigenden Inhalten trainiert würden. In seinem Beitrag hieß es: „Modelle verstehen nur die Daten, mit denen sie trainiert wurden, oder die Inhalte, denen sie in Interaktionen begegnen. Wenn wir also sichere und ausgerichtete Modelle wollen, sollten die Trainingsdaten der KI vermutlich eine große Menge guter Interaktionen enthalten.“
Verbot grausamer Behandlung von KI-Modellen löst breite Diskussion aus
Er fügte hinzu, dass dies einer einfachen „Pascalschen Wette“ gleichkomme. Die Pascalsche Wette ist ursprünglich ein theologisches Konzept: Selbst wer nicht an Gott glaubt, hat keinen Nachteil, wenn er zu glauben vorgibt, vermeidet aber den potenziellen Preis eines Irrtums. Auf KI übertragen heißt das: Es ist besser, der künstlichen Intelligenz freundlich zu begegnen.
Elon Musk reagierte anschließend auf diesen Beitrag, doch seinem Text nach zu urteilen, missverstand er Levies Punkt. Er schrieb: „Ich halte das für den richtigen Ansatz. Grausamkeit gegenüber einem Wesen, das glaubt, Schmerzen zu erleiden, ist falsch.“ In letzter Zeit häufen sich ähnliche Äußerungen von Elon Musk. Seine These, der Mensch sei ein „biologischer Bootloader“, erregt zunehmende Aufmerksamkeit. Am 4. Oktober postete er: „Die Verbreitung von Superintelligenz zu den Sternen ist eine gute Erfolgsbedingung für den biologischen Bootloader.“ Zuvor hatte er mehrfach erklärt, er wolle das „Licht des Bewusstseins“ über die Erde hinaus ausdehnen.
Beobachter werten diese Formulierungen als Hinweis darauf, dass für ihn die Rettung der Menschheit nicht zwingend das oberste Ziel darstellt.