San Francisco Bericht: OpenAI-Mitarbeiter warnten Chefetage vor Super-KI Q*
Bevor Sam Altman als CEO des KI-Unternehmens OpenAi gefeuert wurde, sollen Mitarbeiter einen besorgten Brief an die Führungsebene geschrieben haben. Hintergrund ist eine neue künstlich intelligente Anwendung mit einzigartigen Fähigkeiten.
Weiter Wirbel in der KI-Branche: Sam Altman ist wieder Chef von OpenAI. Warum genau er zuvor herausgedrängt worden war, ist noch nicht öffentlich bekannt. Nun hat die Nachrichtenagentur Reuters von einem Brief aus der Belegschaft erfahren, der den Verwaltungsrat von OpenAI angeblich vor der KI-Anwendung namens Q* (ausgesprochen kiu star) warnt. Der Brief reihe sich ein in eine Liste von Beschwerden der Führungsriege gegenüber Altman.
Einige Entwickler hätten demnach Q* als „Artificial General Intelligence“ (AGI) eingestuft, also Künstliche Allgemeine Intelligenz, die das Erledigen von Aufgaben ermöglicht, die sonst nur Menschen erbringen können. AGI kann nicht nur Inhalte generieren wie KI, sondern auch Zusammenhänge verallgemeinern, lernen und verstehen.
Konkret habe Q* mathematische Aufgaben lösen können – zwar nur auf Grundschulniveau, aber das sei ein enormer Meilenstein. Bisher konzentriert sich die generative KI vor allem aufs Schreiben und Übersetzen. Die Fähigkeit zur Mathematik spräche für eine menschenähnliche Denkfähigkeit, bedeute aber potenziell Risiken für die Menschheit, wie die Verfasser des Briefes festgehalten haben sollen. Genaue Sicherheitsbedenken nannten sie dem Bericht zufolge nicht.
Das Unternehmen wollte sich auf Anfrage dazu nicht äußern, bestätigte jedoch die Existenz von Q* und dem Brandbrief.
Q* könnte der Fortschritt sein, von dem Altman vergangene Woche bei einer Veranstaltung schwärmte. Er pries die grenzverschiebenden Entdeckungen bei OpenAI an. Einen Tag später wurde er als CEO abgesetzt.
