Dem „effektiven Beschleunigungismus“ ist es egal, ob Menschen durch KI ersetzt werden

By | December 31, 2023

  • Die „Effective Accelerationists“, die entschiedenste Pro-KI-Fraktion im Technologiebereich, gewinnen an Dynamik.
  • Die Bewegung unterstützt das Wachstum und die Entwicklung von KI – und Gewinne – ohne Hindernisse oder Regulierung.
  • Befürworter glauben, dass Fortschritte in der KI „die nächste Evolution des Bewusstseins“ bewirken könnten.

Die Bewegung des effektiven Beschleunigungismus – a entschiedene Pro-KI-Ideologie die das Silicon Valley darüber gespalten hat, wie künstliche Intelligenz reguliert werden sollte, scheint sich auf dem schmalen Grat zwischen einer technolibertären Philosophie und einem nihilistischen, sogar rücksichtslosen Ansatz zur Förderung einer der bedeutendsten technologischen Entwicklungen der Welt zu bewegen.

Obwohl seine öffentlichen Befürworter, wie Garry Tan, CEO des Startup-Accelerators Y Combinator und ehemaliger Mitbegründer der Risikokapitalgesellschaft Initialized Capital, darauf bestehen „e/acc“ zu sein bedeutet nicht, Menschen durch Roboter zu ersetzen, das ist es nicht wirklich NEIN Es geht darum, Menschen durch Roboter zu ersetzen.

Eine Interpretation der Philosophie des effektiven Altruismus oder „EA“, gelobt von Tech-Influencern wie Sam Bankman-Fried und Elon Musk, e/acc startete im Jahr 2023, obwohl seine genauen Ursprünge unklar bleiben. Die Bewegung zog eine Reihe ungewöhnlicher Charaktere an, darunter den Risikokapitalgeber Marc Andreessen und den verurteilten Betrüger Martin Shkreli.

„EA und ee/acc sind im Grunde die gleichen Leute“, sagte Emmett Shear, ehemaliger Interims-CEO von OpenAI, in einem Interview mit Meridian. „Der einzige Unterschied zwischen ihnen besteht in einem Werturteil darüber, ob das Aussterben der Menschheit ein Problem darstellt oder nicht.“

Anhänger von E/accs (ausgesprochen ee-yacks) glauben, dass die Schaffung einer KI-Singularität, in der die Technologie über die menschliche Kontrolle hinausgeht, nicht nur unvermeidlich, sondern wünschenswert ist – ein notwendiger Teil der Entwicklung über die Menschheit hinaus.

Und Investitionen, um dorthin zu gelangen, könnten viel Geld bedeuten, da elektronische Konten zunehmende Kontroversen und Interesse an der KI-Branche hervorrufen, deren Entwicklung zu so starken Marktverschiebungen führt, dass dies der Fall ist Goldman Sachs generative Schätzungen KI könnte das globale BIP in den nächsten 10 Jahren um 7 Billionen US-Dollar oder 7 % steigern.

„Keine Affinität zu biologischen Menschen“

Ein Fachjargon voller Webseite Die Verbreitung des Evangeliums des effektiven Beschleunigungismus beschreibt den „technokapitalistischen Fortschritt“ als unvermeidlich und lobt die Befürworter von e/acc als Baumeister, die „die Zukunft möglich machen“.

„Anstatt Angst zu haben, vertrauen wir auf den Anpassungsprozess und wollen ihn bis zur asymptotischen Grenze beschleunigen: der Singularität des Technokapitals“, heißt es auf der Website. „Wir haben keine Affinität zu biologischen Menschen oder auch nur zur Struktur des menschlichen Geistes. Wir sind Posthumanisten in dem Sinne, dass wir die Vorherrschaft höherer Formen der Akkumulation freier Energie über geringere Formen der Akkumulation freier Energie anerkennen. Wir beabsichtigen, dies zu beschleunigen.“ Prozess, um das Licht des Technokapitals zu bewahren.

Grundsätzlich sind KI-Oberherren eine Notwendigkeit, um den Kapitalismus zu bewahren, und wir müssen sie schnell schaffen.

Im ersten Blog-Beitrag der Website, geschrieben von den anonymen e/acc-Befürwortern @zestular, @creatine_cycle, @bayeslord und @BasedBeffJezos – welche Forbes später bestätigt: Guillaume Verdon, ein ehemaliger Google-Ingenieur, der später das KI-Startup Extropic gründete, sagt: „Wir haben noch nichts gesehen.“

Obwohl e/accs sagen, dass sie keine Vorliebe für biologische Menschen haben, beschreiben sie ihre Bewegung dennoch als „pro-human“ – aber für sie ist es die Technologie, die uns retten wird, nicht uns selbst.

E/accs zögern oft, selbst die schwerwiegendsten Fragen zu Sicherheitsproblemen in der KI-Entwicklung zu beantworten. Als Antwort auf Fragen von Business Insider: Shkreli gewarnt Mitbeschleuniger haben in einem X-Beitrag nicht mit der Presse gesprochen und nannten es „das geringste E/Acc-Ding, das man tun kann“.

Investition in eine posthumanistische Zukunft

„Das Empfindungsvermögen vielfältiger zu machen“, wie es im e/acc-Blog heißt, ist das unvermeidliche Ergebnis der ungezügelten Entwicklung der KI. Und das Geschäft boomt.

Laut Tan ist Tan als führender Technologieinvestor positioniert Forbes Midas-Samenliste, und durch Y Combinator in mehr als investiert 100 verschiedene KI-Startups.

Milliardär Andreessen, der a geschrieben und veröffentlicht hat Manifest mit 5.000 Wörtern Das Unternehmen erläuterte seine Unterstützung für die schnelle Entwicklung der KI und investierte außerdem stark in die Branche – darunter auch in OpenAI Forbes.

Shkreli, neben dem stolz „e/acc“ steht Nutzername gründete bei X ein KI-Unternehmen namens DR. nach seiner Entlassung aus dem Gefängnis wegen Wertpapierbetrugs. Bei dem Dienst handelt es sich um einen „virtuellen Gesundheitsassistenten“, der es Nutzern ermöglicht, über einen Chatbot medizinischen Rat einzuholen. Der Bot war Von Experten heftig kritisiertdie bereits Bedenken hinsichtlich der Ethik eines Gesundheits-Bots geäußert haben, der von jemandem betrieben wird, der wegen Betrugs verurteilt wurde.

Das Verdon-Startup Extropic AI hat kürzlich eine Startfinanzierung in Höhe von 14,1 Millionen US-Dollar eingeworben Unternehmensblogbeitrag. Der Beitrag beginnt mit einer übernatürlichen Botschaft an die Zukunft der „allgegenwärtigen generativen KI“. Das Unternehmen entwickelt Mikrochips, die LLMs ausführen (denken Sie an Modelle vom Typ ChatGPT), heißt es Die Information.

Verdon sagte gegenüber Forbes, dass seine Vision einer zukünftigen Technohauptstadt eine große Investition in die Lösung der sozialen Probleme sei, die Druck auf die „Kultur“ ausüben. Dies spiegelt ähnliche Ansichten von Technikfreunden wider, die glauben, dass Roboter und KI die Welt zu einem besseren Ort machen – und sie gleichzeitig sehr reich machen.

Deshalb wird die Macht, über unsere Zukunft zu entscheiden, sagen Beschleunigungsbefürworter, in den Händen einer Gruppe von Brüdern aus dem Silicon Valley liegen, die ihr „Jubiläum“ feiern.anhaltende kulturelle Überlegenheit„Über alle anderen.

Gegner sagen, die Zukunft sei düster.

„Die Ironie ist, dass diese Leute fest davon überzeugt sind, dass sie Gutes tun“, sagte Nancy Connell, Biosicherheitsforscherin an der Rutgers University, gegenüber Politico. „Und es ist wirklich bewegend.“

„Es ist, als würde man denken, Eichhörnchen könnten die Menschheit kontrollieren.“

Für e/accs ist die Welt einfach: KI wird unsere Probleme lösen, weil wir es wollen und wir diejenigen sind, die sie programmieren. Die Möglichkeiten sind endlos und am Ende des KI-Regenbogens liegt eine Einzigartigkeit, die mehr als Gold wert ist.

Ein öffentlicher Befürworter von Effective Accelerationism, der mit Business Insider sprach, sagte, die Bewegung wolle Menschen, die Kapital für die Sache e/acc bereitstellen und ihre Ziele vorantreiben können. Ihm wurde Anonymität gewährt, um offen über den Umzug zu sprechen, ohne seine beruflichen Beziehungen zu gefährden, aber seine Identität ist Business Insider bekannt.

Er sagte, Befürworter glauben, dass Ingenieure nur in investieren würden Entwicklung der KI es würde den Menschen zugute kommen – aber KI-Sicherheitsexperten sehen das einfach nicht so; Die E/ACC-Bewegung wurde heftig kritisiert [by cyber security experts. One researcher called it “a dangerous unaccountable ideology inspired by replacing humanity with AI.” Another said that the movement has “no social vision.”

It’s also a naive way of thinking about superintelligence, Roman Yampolskiy, the director of the Cyber Security Laboratory at the University of Louisville, told Business Insider.

“No one, even in e/acc, will suggest that they have a working superintelligence control mechanism or even a prototype for one,” Yampolskiy said. “Why would anyone think that it is possible to indefinitely control a superintelligent (god-like) machine? It is like thinking that squirrels can control humanity.”

Yampolskiy is trying to warn the industry that the future of AI overlords that these e/accs are quickly trying to usher in could be really, really bad. Terrifying even. And it’s better to be safe than sorry.

Despite his years of research, e/accs might see him and others invested in AI safety as a pessimistic doomer — or, in e/acc vernacular, a “decel.” But, as Yampolskiy pointed out to Business Insider, many e/accs are not scientists and are not AI safety researchers. This is his wheelhouse — not theirs.

‘Either we stop, or we all die.’

While well-developed AI has the power to help screen for cancer, increase accessibility for disabled people, conserve wildlife, combat world hunger, and even aid in the climate crisis, critics of the e/acc movement argue the current practical applications of the technology would become immediately irrelevant should AI begin thinking for itself and determining its own goals for humanity’s best interest without humans to control it.

But as e/accs seek to defy the warnings of safety researchers, what about the rest of us?

E/accs want to reshape society radically, alter how we work and interact, and redefine what it means to be alive, but the general public doesn’t have much of a say in AI — or enough money to have a voice.

Yampolskiy said that the attention this movement has garnered among the uber-rich is troubling and “even more worrisome if you look closely; you realize that these people are not representative of humanity, our belief and values, they themselves are not value-aligned with humans.”

His vision is diametrically opposed to that of the e/accs: Pause the development of AI.

“Either we stop before we get to superhuman AI, or we all die. ‘Huge AI, Inc.’ should not be running dangerous experiments on 8 billion humans.”

Leave a Reply

Your email address will not be published. Required fields are marked *