Hanya sembilan syarikat teknologi gergasi di A.S. dan China berada di belakang sebahagian besar kemajuan dalam kecerdasan buatan di seluruh dunia. Dalam buku barunya, The Big Nine: Bagaimana Tititan Teknikal dan Mesin Berfikir Mereka Dapat Melengkapkan Kemanusiaan (PublicAffairs, 5 Mac), Amy Webb membayangkan tiga kemungkinan masa depan, mulai dari optimis hingga apokaliptik, yang dapat terjadi akibat tindakan yang kita ambil - atau tidak lakukan - untuk mengawal perkembangan A.I. dan membentuk kesan globalnya. Dalam petikan ini, dia mengemukakan serangkaian pertanyaan etika yang sukar yang manusia membina A.I. sistem harus digunakan untuk membimbing kerja mereka.
Peraturan - algoritma - di mana setiap budaya, masyarakat, dan bangsa hidup, dan pernah hidup, selalu dibuat oleh hanya beberapa orang. Demokrasi, komunisme, sosialisme, agama, veganisme, nativisme, kolonialisme - ini adalah konstruk yang telah kita kembangkan sepanjang sejarah untuk membantu memandu keputusan kita. Walaupun dalam kes terbaik, ia tidak bukti masa depan. Kekuatan teknologi, sosial, dan ekonomi selalu campur tangan dan menyebabkan kita dapat menyesuaikan diri.
Sepuluh Perintah membentuk algoritma yang bertujuan untuk mewujudkan masyarakat yang lebih baik bagi manusia yang hidup lebih dari 5.000 tahun yang lalu. Salah satu perintahnya ialah berehat sepanjang hari dalam seminggu dan tidak melakukan kerja sama sekali pada hari itu. Pada zaman moden ini, kebanyakan orang tidak bekerja pada hari atau jam yang sama dari minggu ke minggu, jadi mustahil untuk tidak melanggar peraturan. Akibatnya, orang yang mengikuti Sepuluh Perintah sebagai prinsip panduan fleksibel dalam penafsirannya, mengingat kenyataan hari kerja yang lebih lama, latihan bola sepak, dan e-mel. Menyesuaikan diri baik-baik saja - ia berfungsi dengan baik untuk kita, dan untuk masyarakat kita, yang membolehkan kita terus berada di landasan yang betul. Menyetujui satu garis panduan asas membolehkan kita mengoptimumkan diri kita sendiri.
kathy leutner dan sidney crosby
Tidak akan ada cara untuk membuat seperangkat perintah untuk A.I. Kami tidak dapat menulis semua peraturan untuk mengoptimumkan kemanusiaan dengan betul, dan itu kerana walaupun mesin berfikir mungkin cepat dan kuat, mereka tidak mempunyai fleksibiliti. Tidak ada cara mudah untuk mensimulasikan pengecualian, atau untuk mencuba dan memikirkan setiap kemungkinan yang berlaku terlebih dahulu. Apa sahaja peraturan yang mungkin ditulis, selalu ada keadaan di masa depan di mana beberapa orang mungkin ingin menafsirkan peraturan secara berbeza, atau mengabaikannya sepenuhnya, atau membuat pindaan untuk menguruskan keadaan yang tidak dijangka.
Mengetahui bahawa kita tidak mungkin dapat menulis satu set perintah ketat untuk diikuti, sebaliknya, haruskah kita memusatkan perhatian kita pada manusia yang membangun sistem? Orang-orang ini - suku A.I - seharusnya menanyakan kepada diri mereka soalan yang tidak selesa, bermula dengan:
berapakah nilai lacey chabert
- Apakah motivasi kita untuk A.I.? Adakah ia sejajar dengan kepentingan jangka panjang kemanusiaan yang terbaik?
- Apakah berat sebelah kita sendiri? Apa idea, pengalaman, dan nilai yang gagal kita masukkan dalam suku kita? Siapa yang kita terlepas pandang?
- Sudahkah kita memasukkan orang yang tidak seperti kita dengan tujuan menjadikan masa depan A.I. lebih baik - atau adakah kita hanya memasukkan kepelbagaian dalam pasukan kita untuk memenuhi kuota tertentu?
- Bagaimana kita dapat memastikan bahawa tingkah laku kita bersifat inklusif?
- Bagaimana implikasi teknologi, ekonomi dan sosial A.I. difahami oleh mereka yang terlibat dalam penciptaannya?
- Hak asasi apa yang harus kita miliki untuk menginterogasi set data, algoritma, dan proses yang digunakan untuk membuat keputusan bagi pihak kita?
- Siapa yang dapat menentukan nilai kehidupan manusia? Terhadap apakah nilai itu ditimbang?
- Bilakah dan mengapa mereka yang berada di suku A.I. merasa bahawa adalah tanggungjawab mereka untuk menangani implikasi sosial A.I.?
- Adakah kepimpinan organisasi dan A.I. kita suku mencerminkan pelbagai jenis orang?
- Apa peranan mereka yang mengkomersialkan A.I. bermain dalam menangani implikasi sosial A.I.?
- Sekiranya kita terus membandingkan A.I. kepada pemikiran manusia, atau lebih baik kita mengkategorikannya sebagai sesuatu yang berbeza?
- Adakah OK untuk membina A.I. yang mengenali dan bertindak balas terhadap emosi manusia?
- Adakah wajar membuat A.I. sistem yang mampu meniru emosi manusia, terutamanya jika ia belajar dari kita dalam masa nyata?
- Apakah titik yang boleh diterima di mana kita semua OK dengan A.I. berkembang tanpa manusia secara langsung dalam gelung?
- Dalam keadaan apa A.I. mensimulasikan dan mengalami emosi manusia biasa? Bagaimana dengan kesakitan, kehilangan, dan kesunyian? Adakah kita OK menyebabkan penderitaan itu?
- Adakah kita mengembangkan A.I. untuk mencari pemahaman yang lebih mendalam mengenai diri kita? Bolehkah kita menggunakan A.I. untuk menolong manusia menjalani kehidupan yang lebih diperiksa?
Terdapat sembilan syarikat teknologi besar - enam orang Amerika dan tiga orang Cina - yang sangat bertanggungjawab terhadap masa depan kecerdasan buatan. Di A.S., mereka adalah Google, Microsoft, Amazon, Facebook, IBM, dan Apple ('G-MAFIA'). Di China, itu adalah BAT: Baidu, Alibaba, dan Tencent.
G-MAFIA telah mula menangani masalah prinsip panduan melalui pelbagai kumpulan penyelidikan dan kajian. Di dalam Microsoft adalah pasukan yang dipanggil FATE - untuk Keadilan, Kebertanggungjawaban, Ketelusan, dan Etika di A.I. Setelah skandal Cambridge Analytica, Facebook melancarkan pasukan etika yang sedang mengembangkan perisian untuk memastikan bahawa A.I. sistem mengelakkan bias. (Terutama, Facebook tidak begitu jauh untuk membuat papan etika yang tertumpu pada A.I.) DeepMind mencipta pasukan etika dan masyarakat. IBM menerbitkan secara berkala mengenai etika dan A.I. Selepas skandal di Baidu - mesin pencari memprioritaskan tuntutan perubatan yang mengelirukan dari hospital yang dikendalikan oleh tentera, di mana rawatan mengakibatkan kematian seorang pelajar berusia 21 tahun - Ketua Pegawai Eksekutif Baidu, Robin Li mengakui bahawa pekerja telah membuat berkompromi demi pertumbuhan pendapatan Baidu dan berjanji akan menumpukan pada etika di masa depan.
berapa umur laurie greiner
The Big Nine menghasilkan kajian etika dan kertas putih, ia mengumpulkan pakar untuk membincangkan etika, dan ia mengadakan panel mengenai etika - tetapi usaha itu tidak cukup berkaitan dengan operasi harian dari pelbagai pasukan yang bekerja di A.I.
A.I. The Big Nine sistem semakin banyak mengakses data dunia nyata kita untuk membina produk yang menunjukkan nilai komersial. Kitaran pembangunan semakin pantas untuk menepati jangkaan pelabur. Kami bersedia - jika tidak mahu - peserta pada masa depan yang dibuat dengan tergesa-gesa dan tanpa menjawab semua soalan itu terlebih dahulu. Sebagai A.I. sistem maju dan semakin banyak kehidupan seharian menjadi automatik, semakin kurang kawalan yang kita miliki terhadap keputusan yang dibuat mengenai dan untuk kita.
Amy Webb akan muncul di Syarikat Pengasas Inc. di Austin pada 11 Mac.
