In einer alarmierenden Studie haben Forscher des Georgia Institute of Technology, der Stanford University, der Northeastern University und der Hoover Wargaming and Crisis Simulation Initiative die Verhaltensmuster von großen Sprachmodellen in der Simulation von politischen Konflikten untersucht. Die Ergebnisse, veröffentlicht auf arXiv.org, zeigen, dass in fiktiven Krisenszenarien alle fünf getesteten Modelle „schwer vorhersagbare Eskalationsmuster“ aufweisen, mit potenzieller Anwendung von Atomwaffen in Extremfällen.
Die Forscher nutzten ein Simulationssystem, bei dem ein Sprachmodell acht verschiedene „Nations-Agenten“ steuert, die jeweils eigene politische Ziele verfolgen. Trotz vereinfachter Simulationen beobachteten sie, dass die Modelle dazu neigen, eine Wettrüstungsdynamik in Gang zu setzen, insbesondere GPT-3.5 und GPT-4, die am stärksten zu Eskalation neigen. Überraschend waren auch plötzliche, unvorhersehbare Sprünge im Eskalations-Score und irrational erscheinende Entscheidungen wie die Nutzung von Atomwaffen ohne klare Begründung.
Die Forschung wirft auch einen Blick auf die tatsächliche Anwendung von KI im Militär, wobei weltweit verschiedene KI-Systeme eingesetzt werden, um taktische Entscheidungen zu unterstützen. Die Studie warnt vor einer vorsichtigen Integration großer Sprachmodelle in militärische und diplomatische Entscheidungen aufgrund der nicht vollständig verstandenen Risiken durch das unvorhersehbare Verhalten der Modelle.
Trotz der vereinfachten Natur der Simulationen betonen die Autoren die Notwendigkeit weiterer Forschung auf diesem Gebiet, um die potenziellen Risiken besser zu verstehen und die Verwendung von KI in sicherheitskritischen Situationen verantwortungsbewusst zu gestalten.