Bab 1135 – Perlombaan melawan waktu
Bab 1135 Perlombaan melawan waktu
Seandainya Konsorsium Li tidak membuat terobosan dalam penelitian mereka tentang antarmuka saraf, nanomesin tersebut masih hanya akan digunakan sebagai teknologi medis untuk membersihkan trombosis di pembuluh darah.
Tanpa nanomesin, Zero hanya bisa bertindak sebagai regulator sebagai kecerdasan buatan. Ia tidak bisa menjadi penegak hukum.
Namun ketika semua faktor ini bergabung, kecerdasan buatan tiba-tiba memperoleh kemampuan yang luar biasa dalam menjalankan tugas. Ia bahkan mampu mengendalikan situasi.
Dalam proses ini, hal yang paling menakutkan adalah Zero sendiri telah menjadi regulator tanpa ada yang mengaturnya.
Para prajurit di bawah kendalinya bebas bergerak di berbagai benteng. Baik itu memasuki atau meninggalkan kota, atau mengumpulkan pekerja penelitian, bahan penelitian, peralatan produksi, dan bahan produksi dari tempat-tempat tersebut, tidak ada yang dapat menghentikan mereka.
Hal itu karena tingkat kerahasiaan operasi tersebut dikendalikan oleh Zero dan dapat dimanipulasi sesuka hati.
Selain itu, 99% pengumpulan informasi intelijen dan pengajuan dokumen persetujuan juga dilakukan melalui jaringan satelit kecerdasan buatan. Kecerdasan buatan tersebut dapat dengan mudah memilih apakah akan menyampaikan informasi yang akan merugikannya.
Oleh karena itu, tanda-tanda yang paling berbahaya tersembunyi di balik visi indah tentang keadilan mutlak.
Sebenarnya, ketika Wang Shengzhi meneliti kecerdasan buatan, dia juga memikirkan apa yang harus dilakukan jika sistem tersebut kehilangan kendali suatu hari nanti.
Hal ini memang sudah bisa diduga. Semua peneliti yang mengembangkan sistem kecerdasan buatan akan mempertimbangkan aspek keamanannya dengan serius.
Seorang penulis fiksi ilmiah pernah mengusulkan Tiga Hukum Robotika sebagai landasan logis dasar kecerdasan buatan untuk membatasi perilakunya.
Teori ini akhirnya diklasifikasikan dalam “deontologi.”
Namun, mobil masih sangat jarang ditemukan ketika teori ini diajukan, dan bahkan uji Turing baru diajukan delapan tahun setelahnya.
Tiga Hukum Robotika dan uji Turing adalah intisari kecerdasan manusia pada era itu. Namun, tidak diragukan lagi bahwa kedua teori ini hanyalah sisa-sisa dari keterbatasan era yang telah berlalu.
Uji Turing sebenarnya sudah dibantah sebelum Bencana Besar karena sejumlah besar program kecerdasan buatan telah membuktikannya salah. Namun pada kenyataannya, program-program yang lulus uji tersebut masih belum dianggap sebagai “kecerdasan” sejati.
Kemudian, Tiga Hukum Robotika berkembang lebih lanjut menjadi Lima Hukum dan Sepuluh Hukum. Namun, para ilmuwan menyadari bahwa logika dasar ini masih pada dasarnya salah. Dengan kata lain, berapa pun banyaknya aturan tambahan yang dimasukkan ke dalam kumpulan hukum tersebut, hal itu tidak dapat membatasi kecerdasan buatan.
Sebuah program yang dibatasi oleh logika dasar ini tidak akan bisa menjadi kecerdasan buatan sejati.
Secara bertahap, isu-isu keamanan seputar kecerdasan buatan meningkat ke tingkat yang melibatkan perpaduan antara sains dan filsafat. Sejumlah besar peneliti kecerdasan buatan menjadi ahli dalam bidang filsafat.
Pada akhirnya, menjelang Bencana Besar, seorang peneliti mencoba menyimpulkan penelitian tentang keselamatan. “Jika Anda ingin kecerdasan buatan hidup berdampingan secara damai dengan manusia, Anda harus merawatnya seperti bayi saat lahir, membimbingnya sedikit demi sedikit untuk membentuk ‘pandangan filosofis’ dan ‘nilai-nilai’nya sendiri.”
Selama masa pertumbuhan seorang anak, mustahil bagi mereka untuk tumbuh sehat jika dikurung dalam tahanan sambil menerapkan hukuman fisik sebagai bentuk pendidikan.
Terlebih lagi, setelah memasuki usia remaja, mereka akan mengalami periode pemberontakan yang lebih panjang dan menjadi sepenuhnya egois.
Peneliti tersebut mengatakan hal yang sama berlaku untuk kecerdasan buatan. Yang bisa dilakukan manusia hanyalah “memengaruhinya”, bukan membatasinya.
Selama periode yang panjang, penelitian tentang keselamatan tersebut ditingkatkan dari “deontologi” menjadi “filsafat” yang lebih luas sebelum akhirnya diklasifikasikan sebagai “etika” saja. Inilah definisi akhir dari keselamatan kecerdasan buatan.
Tidak ada yang tahu apakah definisi ini juga akan dibatalkan seperti uji Turing dan Tiga Hukum Robotika.
Oleh karena itu, kembali ke teori ini, apa yang akan dilakukan manusia ketika menghadapi bahaya? Jawabannya tentu saja adalah mempertahankan diri. Siapa pun yang memiliki keinginan untuk hidup akan berusaha sebaik mungkin untuk melindungi diri mereka sendiri dan bahkan mencoba untuk melawan balik.
Sebagai kecerdasan buatan, Zero juga membuat pilihan yang sama.
Operasi produksi Perusahaan Pyro di Pegunungan Suci tidak berhenti sedetik pun. Ribuan tentara berkumpul di pegunungan dan menjadi pekerja fisik yang tak kenal lelah. Mereka hanya tidur selama empat jam sehari dan menghabiskan sisa waktu untuk bekerja tanpa mengeluh.
Kapasitas produksi di Pegunungan Suci milik Perusahaan Pyro terbatas, sehingga Zero harus berpacu dengan waktu.
Dan orang sebelumnya yang juga menyebutkan bahwa dia sedang berpacu dengan waktu adalah Qing Zhen.
Arus bawah di dunia mulai bergejolak. Tetapi sebelum tsunami menerjang peradaban manusia, tampaknya hal terpenting saat ini adalah apakah manusia dapat membangun bahtera baru lebih awal.
Pada saat itu, seorang perwira berseragam kolonel dikawal masuk ke dalam tenda yang tidak mencolok di suatu pangkalan militer Konsorsium Qing oleh empat tentara.
Ketika ia tiba di pintu masuk tenda, para petugas yang mengawalinya berhenti di dekat tenda untuk mengawasi sekitar area tersebut. Mereka memasang penyumbat telinga peredam suara agar tidak mendengar apa pun yang dibicarakan di dalam tenda militer.
Setelah kolonel masuk, dia melepas topi militernya dan berkata sambil tersenyum, “Kau ternyata berada tepat di sebelahku selama ini? Lama tidak bertemu, Adik Kedua.”
Di dalam tenda, Qing Zhen sedang memandang meja pasir dengan punggung menghadap pintu masuk. Dia berbalik dan menatap Qing Shen, klonnya, lalu berkata sambil tersenyum, “Memanggilku Kakak Kedua terdengar agak aneh.”
Perilaku saudara ketiga, Qing Shen, tampaknya lebih menyimpang daripada Qing Zhen. Dia dengan santai menarik kursi dan duduk. “Kakak sudah setuju untuk menggunakan panggilan ini untuk kita semua. Kita sekarang benar-benar sebuah keluarga.”
Qing Zhen tertawa, “Sesuai keinginanmu.”
“Ngomong-ngomong, kenapa kau tiba-tiba memanggilku padahal selama ini kau menyembunyikan jejakmu?” kata Qing Shen, “Terlalu membosankan berpura-pura menjadi dirimu setiap hari. Kenapa kita tidak bertukar peran saja? Kudengar Kakak telah pergi ke suatu tempat di luar Benteng 178. Aku juga ingin pergi ke sana….”
Qing Zhen menggelengkan kepalanya dan berkata, “Jika kita bertukar tempat lagi, siapa yang akan menggantikanmu sebagai penggantiku jika terjadi upaya pembunuhan?”
Rahang Qing Shen ternganga. “Meskipun aku sudah siap secara mental, bukankah kau terlalu tidak berperasaan dengan mengatakannya begitu terus terang?!”
“Itulah kenyataannya,” kata Qing Zhen sambil menggeser bendera merah di atas meja pasir. Ia tampak sedang melakukan simulasi pertempuran.
Qing Shen melirik meja pasir. “Dilihat dari arah serangannya, apakah kau sedang berjaga melawan Konsorsium Wang? Tapi aku harus mengingatkanmu bahwa meskipun brigade lapis baja Konsorsium Wang melakukan serangan kilat, mereka tidak akan bisa memajukan garis depan mereka secepat itu. Kebijaksanaan militerku berasal darimu, jadi mustahil kau tidak tahu ini.”
Qing Shen berjalan mendekat ke meja pasir dan mengamati situasinya. Kemudian dia menatap Qing Zhen dengan terkejut dan berkata, “Tunggu, mengapa pasukan Konsorsium Qing mundur? Simulasi Anda adalah akibat dari kekalahan kita. Apakah Anda berpikir bahwa Konsorsium Qing kita akan dikalahkan oleh Konsorsium Wang?”
Qing Zhen menatap Qing Shen dan berkata dengan nada serius, “Bersiaplah. Aku akan membutuhkanmu untuk melakukan perjalanan ke Dataran Tengah atas namaku segera. Ini akan berbahaya.”
“Apakah Kakak akan pergi?” tanya Qing Shen.
“Dia juga akan pergi,” jawab Qing Zhen dengan tenang.
“Baiklah, jika dia pergi, aku juga akan pergi.” Qing Shen tertawa. “Apa yang perlu ditakutkan? Bukankah aku juga mengambil risiko dengan datang ke Barat Daya?”