Mulai Melatih Model Kecerdasan Buatan Terbaru, OpenAI Bentuk Komite Keselamatan

GenPI.co - OpenAI mengatakan sedang membentuk komite keselamatan dan keamanan dan telah mulai melatih model kecerdasan buatan baru untuk menggantikan sistem GPT-4 yang mendukung chatbot ChatGPT-nya.

Dilansir AP News, startup San Francisco mengatakan dalam sebuah posting blog pada hari Selasa bahwa komite akan memberi nasihat kepada seluruh dewan mengenai “keputusan keselamatan dan keamanan yang penting” untuk proyek dan operasinya.

Komite keselamatan tiba ketika perdebatan seputar keselamatan AI di perusahaan tersebut, yang menjadi sorotan setelah seorang peneliti, Jan Leike, mengundurkan diri dan melontarkan kritik terhadap OpenAI karena membiarkan keselamatan “mengambil kursi belakang dari produk yang cemerlang.”

BACA JUGA:  China dan AS Akan Mengadakan Dialog Tingkat Tinggi Pertama Mengenai Kecerdasan Buatan

Salah satu pendiri dan kepala ilmuwan OpenAI, Ilya Sutskever, juga mengundurkan diri, dan perusahaan tersebut membubarkan tim “superalignment” yang berfokus pada risiko AI yang mereka pimpin bersama.

Leike mengatakan pada hari Selasa bahwa dia bergabung dengan perusahaan AI saingannya, Anthropic, yang didirikan oleh mantan pemimpin OpenAI, untuk “melanjutkan misi superalignment” di sana.

BACA JUGA:  Microsoft Tertarik Investasi Kecerdasan Buatan dan Cloud USD 1,7 Miliar di Indonesia

OpenAI mengatakan pihaknya “baru-baru ini mulai melatih model frontier berikutnya” dan model AI-nya memimpin industri dalam hal kemampuan dan keselamatan, meskipun mereka tidak menyebutkan kontroversi tersebut.

“Kami menyambut baik perdebatan yang kuat pada momen penting ini,” kata perusahaan itu.

BACA JUGA:  CEO OpenAI Sam Altman Berjanji Menyumbangkan Sebagian Besar Kekayaannya

Model AI adalah sistem prediksi yang dilatih pada kumpulan data yang luas untuk menghasilkan teks, gambar, video, dan percakapan mirip manusia sesuai permintaan. Model Frontier adalah sistem AI yang paling kuat dan canggih.

Komite keselamatan diisi oleh orang dalam perusahaan, termasuk CEO OpenAI Sam Altman dan Ketua Bret Taylor, serta empat pakar teknis dan kebijakan OpenAI.

Ini juga termasuk anggota dewan Adam D'Angelo, yang merupakan CEO Quora, dan Nicole Seligman, mantan penasihat umum Sony. 

Tugas pertama komite ini adalah mengevaluasi dan mengembangkan lebih lanjut proses dan pengamanan OpenAI serta membuat rekomendasinya kepada dewan dalam waktu 90 hari.

Perusahaan tersebut mengatakan bahwa mereka kemudian akan merilis secara terbuka rekomendasi yang mereka adopsi “dengan cara yang konsisten dengan keselamatan dan keamanan.” (*)