Versprechen und Drohungen, Hoffnungen und Ängste, Utopien und Dystopien … Künstliche Intelligenz (KI) steht ganz vorne in der ungewissen Zukunft, die bereits existiert, mit GPT-Chat als großen Fortschritt, und das hat die Stadt gespaltenPolitiker, die die Bürger irritieren und verwirren.

Allerdings bleibt diese Technologie für den Durchschnittsbürger ein Rätsel. Daher der hohe Symbolgehalt des ersten Weltgipfel zur KI-Sicherheit die diese Woche im Bletchley Park, einem Herrenhaus auf dem englischen Land, stattfand Alan Turing hat den deutschen Maschinencode gebrochen Rätsel und verkürzte so den Zweiten Weltkrieg um mehrere Monate.

Diese Leistung, die mit der Unterstützung eines Teams erreicht wurde, das zu 75 % aus Frauen besteht, war der Ausgangspunkt für die Gründung erster Computer Riesige Statue und legte den Grundstein für die moderne Informatik. Kurz vor seinem schändlichen Tod hinterließ der wegen seiner Homosexualität verfolgte unsterbliche Mathematiker ein illustres Erbe. Turing-TestDabei wird die Intelligenz einer Maschine beurteilt, indem analysiert wird, ob ihre Reaktionen ähnlich oder nicht von menschlichen Reaktionen zu unterscheiden sind.

Dieser Moment, den manche Superintelligenz nennen und andere technologische Einzigartigkeit, scheint näher zu kommen. Als würden sie riskieren, den Mond zu erreichen, haben diese Technologiegiganten einen Wettlauf gestartet, um die Entwicklung der generativen KI, der neuen Grenze der künstlichen Intelligenz, zu beschleunigen (GPT von OpenAI, mit Unterstützung von Microsoft; LaMDA von Google bzw Berufung Zielsetzung).

Die Gesellschaft hat einen Vorgeschmack auf das bekommen, was uns erwartet: eine automatisierte Welt, in der Maschinen mehr menschliche Aufgaben erledigen, lange Aufsätze schreiben und sogar Nachrichten produzieren. Und die Politiker reagierten dieses Mal nicht langsam, ausgelöst durch die Warnungen einiger wissenschaftlicher Gruppen das Risiko, dass diese Technologie in die Hände von „schlechten Akteuren“ gerät oder dass es der menschlichen Kontrolle entgehen und zu einer „existenziellen Bedrohung“ werden könnte.

Britischer Premierminister, Rishi Sunak Er startete die Anordnung im Juni mit seinem Aufruf zur „Überwachung der Risiken“ beim ersten globalen Gipfel zur KI-Sicherheit im Bletchley Park, 80 Kilometer von London entfernt. Dort werden sich einhundert Experten aus aller Welt treffen, in Anwesenheit des nordamerikanischen Vizepräsidenten. Kamala Harris und die Einladung wurde trotz Protesten des konservativen Flügels der Konservativen Partei nach China ausgedehnt.

Ziel des Gipfels sei es, ein „gemeinsames Verständnis für die von KI ausgehenden Risiken und den Handlungsbedarf“ zu erreichen. Sunak erwartet bereits die Schöpfung KI-Sicherheitsinstitut in England und beabsichtigte, die Vereinbarung abzuschließen Einrichtung eines globalen Expertengremiums für KI-Sicherheit, ähnlich dem IPCC zum Klimawandel. Einige Experten haben sogar die Schaffung eines mit der Internationalen Energieagentur vergleichbaren Gremiums vorgeschlagen.

Aber Sunak ist dagegen Eine sechsmonatige „Pause“ in der Entwicklung von KI-Systemen leistungsfähiger als GPT-4, das von mehr als tausend Unternehmern und Wissenschaftlern vorgeschlagen wurde Offener Brief im letzten Frühjahr. Er Premiere Suche nach einem Mittelweg zwischen Freizügigkeit nach amerikanischem Vorbild und übermäßiger Regulierung durch die Europäische Union, der in den letzten Monaten fertiggestellt wird Das weltweit erste umfassende KI-Gesetz (mit besonderem Schwerpunkt auf „Schutz der Bürgerrechte vor solchen digitalen Werkzeugen“).

Geschützt durch den Brexit wird Sunak den Bletchley-Park-Gipfel nutzen, um attraktive und günstige Bedingungen für Investitionen in Großbritannien zu fordern, mit mehr als 50.000 Arbeitsplätze hängen mit dem KI-Bereich zusammen (im Wert von rund 4,5 Milliarden Euro) und mit einem „Ökosystem“ von Start-up stark wie KI-Stabilitätbeliebter Schöpfer Stabile Verbreitung (das Bilder aus Textnachrichten generiert).

Zu Premiere Trotz allem wurde er in Großbritannien dafür kritisiert, dass er sich auf die Seite besorgniserregender Gruppen gestellt habe. In einer früheren Rede vor der Royal Society wurde davor gewarnt „Missbrauchte“ KI könnte Terroristen helfen, „Angst und Zerstörung“ zu verbreiten mit biologischen Waffen und der Verbreitung von Cyberangriffen, Desinformation, Betrug und sogar sexueller Ausbeutung von Kindern.

Er Premiere Dies spiegelt die verschiedenen Szenarien wider, die im 45-seitigen Bericht enthalten sind Frontier-KI-Fähigkeiten und -Risiken Das wird auf dem Bletchley Park-Gipfel eine Debatte auslösen, einschließlich der Möglichkeit einer „unkontrollierten Entwicklung der Superintelligenz mit katastrophalen Folgen“.

Yann LeCunDer wissenschaftliche Direktor für KI bei Meta argumentierte gegen das apokalyptische Szenario mit der Behauptung, Sunak habe sich offenbar mit EFRAID, dem englischen Akronym für, infiziert KI-Wahnsyndrom als fatalistisches Existenzrisiko. In der Erklärung zu finanzielle Zeit, LeCun versicherte, dass noch „eine Reihe konzeptioneller Entdeckungen“ gemacht werden müssen, bevor Maschinen der menschlichen Kontrolle entkommen können. „Und auf jeden Fall hat Intelligenz nichts mit dem Wunsch zu dominieren zu tun“, warnte er. „Es ist nicht einmal für Menschen.“

Der Ökonom Tyler CowenBlog-Autor Randrevolution, hat auch angegriffen Katastrophe KI (in ihrer fatalistischsten Form), wenn man bedenkt, wie die Erfindung der Druckerpresse im 15. Jahrhundert einen „Katalog des Schreckens“ auslöste und wie wir „eine beschleunigte Version dieser Effekte in einer Weise sehen werden, die für die meisten Menschen nützlich ist“. .“

Dennoch warnte Cowen, dass die kommenden Jahre „verwirrend“ und teilweise „beängstigend“ werden würden. Millionen Menschen werden ihren Arbeitsplatz verlieren und ganze Industrien werden von der Landkarte verschwinden, aber an ihrer Stelle werden andere Industrien entstehen, und Bildung wird für alle zugänglich sein, und es wird große Fortschritte im Gesundheitswesen geben … auch wenn die wirtschaftlichen Unterschiede noch ausgeprägter werden.

Tegmark MaxDer MIT-Professor, der einen offenen Brief beworben hat, in dem ein sechsmonatiges Moratorium gefordert wird, hat heute gewarnt Wächter dass die von der KI versprochenen „enormen Vorteile“ durch den „Wettlauf nach unten“ der Technologiegiganten bei ihren Bemühungen, Strom unkontrolliert zu horten, zunichte gemacht werden könnten. „Das Rennen muss an die Spitze kommen“, fügte er hinzu. „Deshalb müssen wir das dringend tun Schutz- und Sicherheitsstandardsdamit große Unternehmen unsere gemeinsame Zukunft nicht gefährden.

Vom Institute for the Future of Humanity der Universität Oxford, schwedischer Philosoph Nick BostromSchriftsteller SuperintelligenzDenken Sie daran, wie die Menschheit auf die gleiche Weise mit der KI spielte „Ein Kind, das mit einer Bombe spielt“ und betonte die Notwendigkeit einer „kontrollierten Detonation“.

Die derzeitige Dynamik des Wettbewerbs darum, wer am schnellsten in Richtung Superintelligenz voranschreitet, könnte zu „völliger Feindseligkeit zwischen Wettbewerbern“ und einem Szenario führen, das viele fürchten, betonte Bostrom: „Andererseits bringt uns die Zusammenarbeit große Vorteile … Das könnte uns nicht helfen.“ „Wir stürzen uns in die KI-Entwicklung.“ Dies könnte größere Investitionen in die Sicherheit und einen stärkeren Austausch über die Lösung von Steuerungsproblemen ermöglichen. „Dies könnte vor allem der Konfliktvermeidung dienen.“