GenPI.co 
GenPI.co - OpenAI mengatakan sedang membentuk komite keselamatan dan keamanan dan telah mulai melatih model kecerdasan buatan baru untuk menggantikan sistem GPT-4 yang mendukung chatbot ChatGPT-nya.
Dilansir AP News, startup San Francisco mengatakan dalam sebuah posting blog pada hari Selasa bahwa komite akan memberi nasihat kepada seluruh dewan mengenai “keputusan keselamatan dan keamanan yang penting” untuk proyek dan operasinya.
Komite keselamatan tiba ketika perdebatan seputar keselamatan AI di perusahaan tersebut, yang menjadi sorotan setelah seorang peneliti, Jan Leike, mengundurkan diri dan melontarkan kritik terhadap OpenAI karena membiarkan keselamatan “mengambil kursi belakang dari produk yang cemerlang.”
BACA JUGA: CEO OpenAI Sam Altman Berjanji Menyumbangkan Sebagian Besar Kekayaannya
Salah satu pendiri dan kepala ilmuwan OpenAI, Ilya Sutskever, juga mengundurkan diri, dan perusahaan tersebut membubarkan tim “superalignment” yang berfokus pada risiko AI yang mereka pimpin bersama.
Leike mengatakan pada hari Selasa bahwa dia bergabung dengan perusahaan AI saingannya, Anthropic, yang didirikan oleh mantan pemimpin OpenAI, untuk “melanjutkan misi superalignment” di sana.
BACA JUGA: Microsoft Tertarik Investasi Kecerdasan Buatan dan Cloud USD 1,7 Miliar di Indonesia
OpenAI mengatakan pihaknya “baru-baru ini mulai melatih model frontier berikutnya” dan model AI-nya memimpin industri dalam hal kemampuan dan keselamatan, meskipun mereka tidak menyebutkan kontroversi tersebut.
“Kami menyambut baik perdebatan yang kuat pada momen penting ini,” kata perusahaan itu.
BACA JUGA: China dan AS Akan Mengadakan Dialog Tingkat Tinggi Pertama Mengenai Kecerdasan Buatan
Model AI adalah sistem prediksi yang dilatih pada kumpulan data yang luas untuk menghasilkan teks, gambar, video, dan percakapan mirip manusia sesuai permintaan. Model Frontier adalah sistem AI yang paling kuat dan canggih.
Silakan baca konten menarik lainnya dari GenPI.co di Google News
