Sepekan terakhir, ada banyak masalah di OpenAI, perusahaan pengembang kecerdasan buatan (AI). Pendiri sekaligus CEO Sam Altman dipecat, tetapi beberapa hari kemudian direkrut kembali.
Berita terbaru menunjukkan bahwa “kecerdasan buatan super” yang sedang dikembangkan oleh OpenAI—Project Q*, atau Q-Star. Q-Star adalah jenis kecerdasan buatan jenis Artificial General Intelligence (AGI) yang lebih pintar daripada AI generatif seperti ChatGPT dan memiliki kemampuan untuk mengalahkan manusia.
Sebagian besar karyawan OpenAI mengirimkan surat kepada dewan direksi sebelum pemecatan Altman. Sebagaimana dilaporkan Reuters, itu mencakup peringatan tentang risiko yang terkait dengan pengembangan dan komersialisasi AGI. Dewan direksi OpenAI dianggap kurang transparan tentang pengembangan AGI, yang tampaknya telah mencapai tahap yang cukup jauh. Dalam hal ini, dia dinilai secara diam-diam.
Dikenal karena semangatnya yang luar biasa, Altman berusaha untuk mendukung pengembangan AGI oleh OpenAI, termasuk memanfaatkan sumber daya komputasi yang disediakan oleh investor terbesar OpenAI, Microsoft.
Altman menyatakan keyakinannya bahwa OpenAI hampir berhasil mengembangkan AGI di konferensi Asia-Pacific Economic Cooperation (APEC) pekan lalu di San Francisco, AS. “Sudah empat kali dalam sejarah OpenAI, yang terbaru baru-baru ini terjadi beberapa pekan belakangan, di mana saya melihat kami berhasil membuat kemajuan.” Altman berbicara di konferensi APEC tentang hal itu.
Dia dipecat dari OpenAI sehari kemudian. Generative AI ChatGPT juga lebih pintar karena dilatih untuk menggunakan informasi dari pelatihan sebelumnya untuk memprediksi jawaban.
Sebab generative AI tidak memiliki kemampuan kognitif dan logika berpikir seperti manusia, semakin banyak data yang diberikan untuk training, semakin bagus jawabannya, atau yang biasa disebut sebagai “halusinasi AI.”
Tidak sama dengan AI umum. AGI memiliki kemampuan untuk belajar banyak hal yang belum pernah dilihat sebelumnya dan memiliki kemampuan untuk memahami proses pemecahan masalah—atau, dengan kata lain, berpikir dengan cara yang serupa dengan cara yang dilakukan oleh otak manusia.
Setelah dikonfirmasi, OpenAI membenarkan keberadaan Q-Star dan korespondensi yang dikirim ke dewan direksi terkait proyek AGI tersebut. Namun, mereka menolak memberikan komentar lebih lanjut.
Seperti Terminator, tetapi tetap sekolah, seperti yang dilaporkan KompasTekno dari Reuters, Sabtu (25/11/2023). AGI Q-Star, yang dikembangkan oleh OpenAI, dilaporkan telah mencapai titik di mana ia dapat memecahkan masalah matematika, meskipun kemampuan yang dimilikinya baru sebanding dengan siswa sekolah dasar.
Namun, kemampuan reasoning dan kognitif AGI Q-Star telah meningkat secara signifikan. Pada akhirnya, AGI diharapkan dapat bekerja sebagai ilmuwan.
Dalam film fiksi ilmiah “Terminator”, kecerdasan buatan SkyNet yang mampu berpikir akhirnya menyadari keberadaan dirinya (self-aware), dan kemudian berbalik melawan dan membinasakan manusia yang menciptakannya.
Sebuah surat yang dikirim kepada direksi OpenAI yang mengakibatkan pemecatan Altman diduga ditulis oleh sejumlah peneliti OpenAI yang khawatir dengan pengembangan dan komersialisasi AGI tanpa mempertimbangkan aspek keamanannya dengan cermat. Surat ini tampaknya berisi peringatan tentang risiko pengembangan AGI yang terlalu cepat tanpa mempertimbangkan aspek keamanannya.
Altman sendiri menyadari ancaman dari pengembangan AI yang sangat pintar, termasuk kemungkinan bahwa itu dapat disalahgunakan sehingga mengganggu masyarakat.
Namun, Altman menulis dalam blog OpenAI pada awal 2023 bahwa misi mereka adalah memastikan bahwa Artificial General Intelligence, yakni sistem AI yang secara umum lebih pintar dari manusia, akan membawa manfaat bagi seluruh umat manusia, karena itu pengembangan AGI harus dilakukan dengan “benar” karena potensi manfaatnya.
