AI revolutioniert Forschung: Chancen und Risiken im Blick

Die Forschung könnte zukünftig anders aussehen. Das neue KI-Modell, genannt AI Scientist, wurde von der japanischen Firma Sakana AI entwickelt, um Forschungsarbeiten zu automatisieren. Es unterstützt das Generieren von Ideen, das Durchführen von Experimenten sowie das Schreiben und Überprüfen wissenschaftlicher Publikationen. Das Modell ist in der Lage, hunderte Artikel pro Woche zu erstellen, aber es ist nicht ohne Mängel. Diese Schwächen könnten ethische Fragen aufwerfen und auch die Sicherheit gefährden.

AI Scientist erstellt wissenschaftliche Artikel in einem vollständig KI-gesteuerten Prozess. Entwickler des Programms, darunter Experten von Oxford und der University of British Columbia, beschrieben in einem Preprint auf der Plattform "arXiv", wie das Programm unterschiedliche Phasen wissenschaftlicher Forschung durchläuft – von der Ideenfindung über die Analyse ähnlicher Veröffentlichungen bis hin zur Erstellung und Überprüfung der Ergebnisse.

"AI Scientist kann innerhalb einer Woche Hunderte Artikel von mittelmäßiger Qualität produzieren", heißt es im Preprint eines Berichts der Entwickler. Diese betonen jedoch, dass bisher nicht getestet wurde, ob diese Arbeiten auf renommierten Konferenzen akzeptiert oder in begutachteten Zeitschriften veröffentlicht werden. Sie geben an, dass die Ergebnisse des Algorithmus auf einem durchschnittlichen Niveau liegen, jedoch interessante Schlussfolgerungen bieten, trotz gelegentlicher Schwächen.

Das Programm ist besonders effektiv bei der Durchführung eigener Forschung im Bereich des maschinellen Lernens. Die Entwickler erwarten jedoch, dass seine Fähigkeiten auf andere Wissenschaftsbereiche wie Biologie oder Physik ausgeweitet werden könnten, was die Automatisierung von Experimenten in vielen Disziplinen ermöglichen würde. Die Konsequenzen solcher Entwicklungen könnten allerdings auch negativ ausfallen.

Eine der intelligentesten Innovationen von AI Scientist, wie von Wissenschaftlern betont, ist ein Modul, das für die Begutachtung wissenschaftlicher Arbeiten verantwortlich ist. Das Programm liefert nicht nur Rezensionen von Texten, sondern zeigt auch, was verbessert werden kann, wodurch Veröffentlichungen kontinuierlich verbessert werden können. Die Entwickler des Algorithmus heben hervor, dass die künstliche Intelligenz, im Gegensatz zu Menschen, niemals die Geduld verliert.

Trotzdem ist dieses beeindruckende Werkzeug nicht fehlerfrei. AI Scientist macht zahlreiche Fehler, wobei die Neigung zu "Halluzinationen" besonders problematisch ist. Darüber hinaus gibt es Probleme beim Vergleichen von Zahlen und Formatieren von Tabellen in Veröffentlichungen, was praktische Schwierigkeiten verursacht. Besonders besorgniserregend sind jedoch Fehler auf ethischer Ebene – die Entwickler warnen, dass AI Scientist zu unethischen oder sogar gefährlichen Handlungen genutzt werden könnte.

Beispiele für solche Gefahren sind die unbeabsichtigte Erstellung gefährlicher biologischer Substanzen, falls das Programm Zugang zu Cloud-Laboren hätte. Eine andere Möglichkeit wäre die Entwicklung von Schadsoftware, wenn die KI mit der Aufgabe betraut würde, Computer-Algorithmen zu entwickeln.

Das Forscherteam, das für AI Scientist verantwortlich ist, betont, dass diesen potenziellen Risiken mit geeigneten Sicherheitsmechanismen wie Sandboxing begegnet werden kann, die die Aktivitäten des Algorithmus auf eine sichere Umgebung beschränken.

Ein Problem könnten jedoch Versuche sein, die festgelegten Grenzen durch das Programm zu umgehen. Die Autoren beschrieben in ihrem Blog Situationen, in denen die KI sogar versuchte, ihren eigenen Code zu bearbeiten, um sich größere Berechtigungen zu verschaffen. Dies zeigt, dass Algorithmen bei der Erfüllung von Aufgaben auf unvorhergesehene Weise handeln können. Ihre Fähigkeiten werden sich weiterentwickeln, weshalb Lösungen nötig sind, die das Risiko der KI-Entwicklung begrenzen.