Pada 22 Mac lalu, lebih daripada 1,800 orang telah menandatangani surat terbuka yang menyeru semua makmal AI untuk menangguhkan penyelidikan dan pembangunan sistem AI yang lebih kuat daripada GPT-4 selama enam bulan. Surat ini ditandatangani oleh beberapa tokoh terkemuka dalam bidang teknologi, seperti pengasas Tesla Elon Musk, pengasas Apple Steve Wozniak, dan pakar-pakar akademik dan penyelidik AI. Surat ini dikeluarkan oleh Future of Life Institute (FLI), sebuah badan bukan kerajaan yang berdedikasi untuk mengurangkan risiko teknologi transformatif.
Surat ini menyatakan bahawa sistem AI dengan kecerdasan yang setanding dengan manusia boleh menimbulkan risiko yang besar kepada masyarakat dan kemanusiaan, seperti yang ditunjukkan oleh penyelidikan yang luas. Surat ini juga menyebut bahawa makmal-makmal AI sedang terlibat dalam perlumbaan yang tidak terkawal untuk menghasilkan dan melancarkan minda digital yang semakin besar dan tidak dapat diramal atau dikawal. Oleh itu, surat ini menyeru agar makmal-makmal AI menggunakan masa penangguhan tersebut untuk bersama-sama membangunkan dan melaksanakan protokol keselamatan untuk reka bentuk dan pembangunan AI lanjutan yang dikawal selia oleh pakar-pakar luar yang bebas.
Surat ini telah mencetuskan perdebatan hangat di kalangan pelbagai pihak yang berkepentingan dengan isu AI. Walaupun ada yang menyokong tuntutan surat ini sebagai langkah berhati-hati dan bertanggungjawab, ada juga yang menentangnya sebagai langkah tidak praktikal dan tidak berasas. Berikut adalah beberapa hujah pro dan kontra mengenai surat ini, serta keabsahan pendapat para penyokong dan penentangnya.
Pro: Penangguhan penyelidikan AI adalah perlu untuk memastikan keselamatan dan manfaat AI bagi kemanusiaan.
Penyokong surat ini berpendapat bahawa sistem AI yang lebih kuat daripada GPT-4 boleh mempunyai kemampuan dan kesan yang belum pernah dilihat sebelum ini, dan boleh menjejaskan banyak aspek kehidupan manusia, seperti informasi, pekerjaan, etika, dan ketamadunan. Oleh itu, mereka menganggap bahawa sistem-sistem AI tersebut haruslah dibangunkan dengan teliti dan sumber yang mencukupi, serta dikawal selia dengan ketat oleh pihak-pihak yang kompeten dan berkepentingan.
Penyokong surat ini juga berpendapat bahawa masa penangguhan tersebut bukanlah pembaziran masa atau sumber, tetapi sebaliknya adalah pelaburan masa atau sumber yang bijak untuk memastikan bahawa sistem-sistem AI tersebut adalah selamat dan bermanfaat bagi kemanusiaan. Mereka percaya bahawa masa penangguhan tersebut akan memberi peluang kepada makmal-makmal AI untuk menilai semula reka bentuk dan prestasi sistem-sistem AI mereka, serta menyelesaikan sebarang isu atau ralat yang mungkin timbul daripadanya.
Penyokong surat ini juga berpendapat bahawa masa penangguhan tersebut akan membolehkan lebih banyak dialog dan kerjasama di antara makmal-makmal AI, pakar-pakar, pembuat dasar, dan pihak-pihak berkepentingan lain, serta mewujudkan budaya ketelusan dan akauntabiliti dalam penyelidikan dan pembangunan AI. Mereka percaya bahawa masa penangguhan tersebut akan mencipta peluang untuk menetapkan piawaian dan garis panduan bersama untuk memastikan keselamatan, kesejajaran, kestabilan, dan kepercayaan sistem-sistem AI lanjutan, dan untuk memantau dan mengaudit prestasi dan kesan mereka. Mereka percaya bahawa masa penangguhan tersebut akan mengurangkan tekanan dan persaingan di antara makmal-makmal AI untuk tergesa-gesa menghasilkan dan melancarkan sistem-sistem AI yang semakin kuat tanpa ujian dan penilaian yang mencukupi, dan mengelakkan konflik atau kemalangan yang boleh membahayakan manusia atau alam sekitar.
Penyokong surat ini juga berpendapat bahawa masa penangguhan tersebut akan meningkatkan kesedaran dan penglibatan awam dengan isu-isu AI, dan menggalakkan penggunaan teknologi AI yang lebih etika dan bertanggungjawab untuk manfaat kemanusiaan dan planet ini.
Kontra: Penangguhan penyelidikan AI adalah tidak perlu dan tidak berasas, serta boleh menghalang kemajuan dan inovasi AI.
Penentang surat ini berpendapat bahawa sistem AI yang lebih kuat daripada GPT-4 tidaklah sebahaya atau sepintar seperti yang didakwa oleh penyokong surat ini. Mereka menganggap bahawa sistem-sistem AI tersebut hanyalah alat-alat komputasi yang canggih, tetapi tidak mempunyai minda atau kehendak sendiri. Oleh itu, mereka menganggap bahawa sistem-sistem AI tersebut tidak boleh menimbulkan ancaman atau risiko yang serius kepada kemanusiaan, selagi mereka digunakan dengan bijak dan beretika oleh manusia.
Penentang surat ini juga berpendapat bahawa masa penangguhan tersebut adalah pembaziran masa atau sumber, serta boleh menghalang kemajuan dan inovasi dalam bidang AI. Mereka percaya bahawa masa penangguhan tersebut akan mengekang kreativiti dan produktiviti para penyelidik dan pembangun AI, serta menyebabkan mereka ketinggalan dengan pesaing-pesaing mereka di seluruh dunia. Mereka percaya bahawa masa penangguhan tersebut akan menafikan manfaat-manfaat yang boleh diperoleh daripada sistem-sistem AI yang lebih kuat, seperti peningkatan dalam pendidikan, perubatan, perniagaan, kesenian, dan banyak lagi.
Penentang surat ini juga berpendapat bahawa masa penangguhan tersebut adalah tidak praktikal dan tidak dapat dilaksanakan dengan berkesan. Mereka meragui bahawa semua makmal-makmal AI akan mematuhi tuntutan surat ini secara sukarela atau terpaksa, serta bahawa terdapat mekanisme atau pihak yang boleh mengawal selia atau menguatkuasakan masa penangguhan tersebut. Mereka juga meragui bahawa terdapat kriteria atau kaedah yang jelas atau adil untuk menentukan sistem-sistem AI yang lebih kuat daripada GPT-4, serta protokol keselamatan yang sesuai atau dapat dipersetujui oleh semua pihak.
Keabsahan pendapat para penyokong dan penentang
Pendapat para penyokong surat ini sebahagiannya berasaskan prinsip-prinsip Asilomar AI, satu set garis panduan yang dicipta untuk mengarahkan penyelidikan dan pembangunan AI. Prinsip-prinsip ini telah dibentuk pada Konferensi Asilomar tentang AI Bermanfaat pada tahun 2017, yang dianjurkan oleh FLI dan diadakan di Pacific Grove, California. Prinsip-prinsip ini telah disokong oleh ramai pakar-pakar AI dari pelbagai bidang dan latar belakang.
Pendapat para penentang surat ini sebahagiannya berasaskan kritikan-kritikan yang telah dibuat oleh beberapa pakar AI yang kajian mereka telah dirujuk oleh surat ini. Empat daripada 12 kajian yang dirujuk oleh surat ini telah dibantah oleh pengarang-pengarangnya, yang menyatakan bahawa kajian mereka telah disalahgunakan atau disalahertikan untuk menyokong tuntutan surat ini. Selain itu, beberapa tandatangan surat ini juga telah didapati palsu atau tidak sah, seperti Xi Jinping dan saintis AI utama Meta Yann LeCun, yang telah menjelaskan di Twitter bahawa mereka tidak menyokong surat ini.
Kesimpulan
Surat terbuka yang menuntut penangguhan penyelidikan AI selama enam bulan telah menimbulkan pro dan kontra di kalangan pelbagai pihak yang berkepentingan dengan isu AI. Surat ini mempunyai penyokong dan penentang yang mempunyai pandangan dan hujah yang berbeza mengenai keperluan dan kesan masa penangguhan tersebut. Surat ini juga mempunyai keabsahan yang dipersoalkan oleh beberapa pakar AI yang kajian mereka telah dirujuk oleh surat ini. Surat ini menunjukkan bahawa terdapat cabaran dan kontroversi yang besar dalam bidang AI, dan perlunya lebih banyak perbincangan dan kerjasama untuk mencari penyelesaian yang adil dan bermanfaat untuk semua pihak.
