Ein Mann, der weithin als Pate der künstlichen Intelligenz (KI) gilt, hat seinen Job gekündigt und warnt vor wachsenden Gefahren durch Entwicklungen auf diesem Gebiet.
Jeffrey Hinton, 75, gab in einer Erklärung gegenüber der New York Times seinen Rücktritt von Google bekannt und sagte, er bedauere jetzt seine Arbeit.
Er sagte der BBC, einige der Chatbot-Risiken seien „sehr beängstigend“.
„Im Moment sind sie nicht schlauer als wir, soweit ich das beurteilen kann. Aber ich denke, sie könnten es bald sein.“
Dr. Hintons bahnbrechende Forschung zu Deep Learning und neuronalen Netzen ebnete den Weg für aktuelle KI-Systeme wie ChatGPT.
Aber ein britisch-kanadischer Kognitionspsychologe und Informatiker sagte der BBC, dass ein Chatbot bald die Informationsebene des menschlichen Gehirns übertreffen könnte.
„Im Moment sehen wir, dass Dinge wie GPT-4 eine Person in Bezug auf das Allgemeinwissen, das sie haben, und eine Person bei weitem übertreffen. In Bezug auf die Argumentation ist es nicht sehr gut, aber es ist einfach Denken.
„Und angesichts der Fortschrittsrate erwarten wir, dass sich die Dinge sehr schnell verbessern. Also müssen wir uns darum kümmern.“
In einem Artikel der New York Times bezog sich Dr. Hinton auf „schlechte Schauspieler“, die versuchen würden, KI für „schlechte Dinge“ einzusetzen.
Als er von der BBC gebeten wurde, dies näher zu erläutern, antwortete er: „Dies ist nur ein Worst-Case-Szenario, eine Art Albtraum-Szenario.
„Man kann sich zum Beispiel einige schlechte Schauspieler vorstellen [Russian President Vladimir] Putin beschloss, Bots die Möglichkeit zu geben, ihre eigenen Unterziele zu erstellen.
Letztlich könne dies „Teilziele wie ‚Ich muss stärker werden‘ schaffen“, warnte der Wissenschaftler.
Er fügte hinzu: „Ich bin zu dem Schluss gekommen, dass sich die Art der Intelligenz, die wir entwickeln, sehr von der Intelligenz unterscheidet, die wir haben.
„Wir sind biologische Systeme und dies sind digitale Systeme.“ Der große Unterschied besteht darin, dass man bei digitalen Systemen viele Kopien desselben Satzes von Gewichten hat, dasselbe Modell der Welt.
„Und alle diese Klone können separat lernen, aber ihr Wissen sofort teilen. Es ist also so, als ob Sie 10.000 Leute haben und wenn jemand etwas lernt, weiß es jeder automatisch. Und so können diese Chatbots viel mehr wissen als jede einzelne Person.“
Dr. Hinton sagte auch, dass es mehrere andere Gründe gab, seinen Job aufzugeben.
„Einer ist, ich bin 75. Also ist es Zeit, in Rente zu gehen. Ein anderer war, ich möchte wirklich ein paar gute Dinge über Google sagen. Es wäre glaubwürdiger, wenn ich nicht für Google arbeiten würde.“
Er betonte, dass er Google nicht kritisieren wolle und der Tech-Riese „sehr verantwortungsbewusst“ sei.
In einer Erklärung sagte Google-Chefwissenschaftler Jeff Dean: „Wir bleiben einem verantwortungsvollen Umgang mit KI verpflichtet. Wir lernen ständig, aufkommende Risiken zu verstehen, während wir gleichzeitig mutig innovativ sind.“
„Musikfan. Sehr bescheidener Entdecker. Analytiker. Reisefan. Extremer Fernsehlehrer. Gamer.“
More Stories
Die nächste 4K-Minidrohne von DJI passt in Ihre Handfläche
Leaks enthüllen den Namen und das Design des angeblichen PS5 Pro-Geräts
Apple führt mit dem neuesten iOS-Update die KI-Objektentfernung in Fotos ein