Demis Hassabis, CEO von Google DeepMind, warnt davor, dass die Gesellschaft auf die bevorstehende Ankunft der künstlichen allgemeinen Intelligenz (AGI), die in den nächsten fünf bis zehn Jahren erwartet wird, nicht vorbereitet ist. Er betont, dass die Kontrollierbarkeit und der Zugang zu diesen fortschrittlichen Systemen sorgfältig geprüft werden müssen, da erhebliche Investitionen in die KI-Entwicklung fließen. Im Gegensatz dazu zeigt sich Sam Altman, CEO von OpenAI, zuversichtlich, dass AGI in den nächsten fünf Jahren realisiert werden kann, und behauptet, dass sie überraschend wenig Auswirkungen auf die Gesellschaft haben wird. Dieser Optimismus steht in scharfem Kontrast zu den Ansichten von KI-Sicherheitsexperten wie Roman Yampolskiy, der mit ziemlicher Sicherheit voraussagt, dass KI zum Ende der Menschheit führen könnte. Hassabis’ Bedenken unterstreichen die Dringlichkeit, sich mit den potenziellen Risiken von KI zu befassen, zumal Unternehmen der Produktentwicklung Vorrang vor der Sicherheit einräumen. Darüber hinaus räumt Dario Amodei, CEO von Anthropic, ein mangelndes Verständnis ihrer KI-Modelle ein, was weitere Bedenken weckt. Die Notwendigkeit von Maßnahmen zur Gewährleistung der menschlichen Aufsicht über KI-Systeme wird unterstrichen, um existenzielle Bedrohungen zu verhindern. Das Dokument spiegelt ein wachsendes Spannungsverhältnis zwischen den rasanten Fortschritten der KI und den gesellschaftlichen Auswirkungen dieser Entwicklungen wider.
