Demis Hassabis, CEO Google DeepMind, memperingatkan bahwa masyarakat belum siap dengan kehadiran Artificial General Intelligence (AGI) yang diperkirakan akan hadir dalam waktu lima hingga sepuluh tahun mendatang. Dia menekankan perlunya pertimbangan yang cermat mengenai kemampuan kontrol dan akses ke sistem canggih ini, karena investasi yang signifikan mengalir ke dalam pengembangan AI. Sebaliknya, CEO OpenAI, Sam Altman, menyatakan keyakinannya dalam mencapai AGI dalam lima tahun ke depan, dan mengklaim bahwa hal tersebut akan memiliki dampak yang sangat kecil pada masyarakat. Optimisme ini sangat kontras dengan pandangan para ahli keamanan AI seperti Roman Yampolskiy, yang memprediksi bahwa AI dapat menyebabkan akhir dari umat manusia. Kekhawatiran Hassabis menyoroti urgensi untuk mengatasi potensi risiko yang terkait dengan AGI, terutama karena perusahaan memprioritaskan pengembangan produk di atas keselamatan. Selain itu, CEO Anthropic, Dario Amodei, mengakui kurangnya pemahaman tentang model AI mereka, sehingga meningkatkan kekhawatiran lebih lanjut. Perlunya langkah-langkah untuk memastikan pengawasan manusia terhadap sistem AI digarisbawahi untuk mencegah ancaman yang ada. Dokumen ini mencerminkan ketegangan yang meningkat antara kemajuan AI yang cepat dan implikasi sosial dari perkembangan tersebut.
