Daftar Isi
- Apa arti penggunaan AI yang bertanggung jawab?
- Daftar periksa sebelum memakai AI
- 1. Keadilan: periksa siapa yang diuntungkan atau dirugikan
- 2. Akuntabilitas: tetapkan penanggung jawab
- 3. Keselamatan: batasi tindakan dan sediakan eskalasi
- 4. Privasi: kirim sesedikit mungkin informasi
- 5. Transparansi: jelaskan penggunaan pada konteks yang tepat
- Contoh penerapan di kantor
- Pertanyaan umum
Penggunaan AI yang bertanggung jawab dimulai dengan tujuan yang jelas, data yang sesuai, pemeriksaan hasil, dan orang yang bertanggung jawab atas keputusan. Prinsip ini berguna bagi organisasi, sekolah, dan pengguna individu yang ingin mencoba alat AI tanpa menyerahkan penilaian penting kepada sistem.
Google for Developers membahas dimensi Responsible AI seperti keadilan, akuntabilitas, keselamatan, dan privasi. Dimensi itu bukan cap bahwa suatu sistem otomatis aman; masing-masing membantu menyusun pertanyaan yang perlu dijawab sebelum dan selama AI digunakan.
Apa arti penggunaan AI yang bertanggung jawab?
Penggunaan yang bertanggung jawab mempertimbangkan tujuan, orang yang terdampak, kemungkinan manfaat dan kerugian, serta cara mengoreksi masalah. Risiko pada chatbot untuk menyusun ide pribadi berbeda dari sistem yang membantu keputusan pekerjaan, pendidikan, atau layanan publik.
Karena dampaknya tidak sama, proses pemeriksaan perlu disesuaikan. Untuk draf ucapan selamat yang bersifat pribadi, koreksi manusia mungkin sederhana. Untuk informasi yang dapat mengubah akses seseorang pada layanan, dibutuhkan proses validasi, akuntabilitas, dan mekanisme penanganan yang jauh lebih ketat.
Daftar periksa sebelum memakai AI
| Pertanyaan | Langkah yang dapat dilakukan |
|---|---|
| Apa tujuan tugasnya? | Tulis hasil yang diharapkan dan batas penggunaannya. |
| Siapa yang terdampak? | Identifikasi pengguna, pelanggan, siswa, atau pihak lain. |
| Apakah datanya boleh diproses? | Periksa aturan organisasi dan layanan; minimalkan data yang dikirim. |
| Bagaimana hasil diperiksa? | Tentukan sumber pembanding, kriteria, dan orang yang meninjau. |
| Apa yang terjadi bila salah? | Siapkan cara koreksi, eskalasi ke manusia, dan pencatatan kejadian. |
| Siapa yang bertanggung jawab? | Tentukan pemilik proses dan pihak yang berwenang menyetujui hasil. |
1. Keadilan: periksa siapa yang diuntungkan atau dirugikan
Data dan cara merancang sistem dapat memengaruhi kelompok orang secara berbeda. Uji keluaran pada variasi kasus yang relevan, bukan hanya contoh yang paling mudah. Untuk proses seleksi, misalnya, perlu ada peninjauan khusus terhadap dampak pada kelompok yang mungkin kurang terwakili.
Jangan menganggap hasil otomatis netral hanya karena dihasilkan komputer. Catat perbedaan yang ditemukan dan tentukan cara menangani keputusan yang keliru.
2. Akuntabilitas: tetapkan penanggung jawab
Putuskan siapa memeriksa, siapa menyetujui, dan siapa menangani keluhan. Jika sebuah organisasi tidak dapat menjawab siapa yang harus memperbaiki keputusan sistem, penggunaan tersebut belum memiliki jalur tanggung jawab yang jelas.
Catatan sederhana dapat memuat tujuan penggunaan, versi alat, jenis data, hasil pemeriksaan, dan perubahan kebijakan. Dokumentasi membantu mengulang evaluasi ketika proses atau alat berubah.
3. Keselamatan: batasi tindakan dan sediakan eskalasi
Mulailah dengan uji coba terbatas. Beri sistem peran membantu menyiapkan bahan dan buat persetujuan manusia sebelum tindakan yang berdampak. Tentukan keadaan yang harus langsung dialihkan ke orang yang kompeten, seperti keluhan sensitif atau keputusan di luar cakupan.
Uji juga cara sistem merespons masukan yang tidak biasa. Contoh yang berfungsi sekali belum membuktikan sistem aman di semua kondisi. Simpan cara menghentikan proses dan mengembalikan prosedur manual.
4. Privasi: kirim sesedikit mungkin informasi
Gunakan hanya data yang diperlukan untuk tugas. Hindari memasukkan data pribadi, rahasia usaha, akses akun, atau dokumen internal ke layanan sebelum mengetahui ketentuan pemrosesannya dan memperoleh otorisasi yang sesuai.
Menghapus nama tidak selalu menghilangkan identitas. Kombinasi lokasi, jabatan, tanggal, dan rincian kasus bisa menunjuk pada seseorang. Untuk latihan, gunakan contoh buatan atau format kosong.
5. Transparansi: jelaskan penggunaan pada konteks yang tepat
Ketika pengguna lain berinteraksi dengan sistem otomatis atau menerima konten berbantuan AI, jelaskan peran sistem dengan bahasa yang mudah dimengerti bila konteks dan aturan mengharuskannya. Jangan menyebut sebuah hasil sebagai verifikasi manusia jika faktanya tidak demikian.
Transparansi juga mencakup batas kemampuan: apa yang dapat dilakukan, apa yang tidak, dan bagaimana meminta pemeriksaan atau koreksi. Informasi yang jelas membantu orang memahami jalur tindak lanjut.
Contoh penerapan di kantor
Misalkan tim ingin memakai AI untuk merangkum pertanyaan layanan. Sebelum memulai, tetapkan tujuan hanya untuk menemukan tema pertanyaan berulang. Hapus identitas yang tidak perlu, uji ringkasan terhadap sampel asli, dan minta petugas layanan meninjau apakah keluhan khusus terlewat.
Gunakan hasil untuk memperbaiki halaman panduan, bukan langsung menutup tiket atau menolak permintaan pelanggan. Catat siapa pemilik alur kerja dan bagaimana pengguna mengajukan banding atau koreksi.
Contoh prompt dan cara memeriksa draf kantor ada di panduan penggunaan AI di kantor. Pemahaman dasar teknologi tersedia dalam pengertian dan cara kerja AI.
Pertanyaan umum
Apakah penggunaan AI yang bertanggung jawab menjamin tidak ada kesalahan?
Tidak. Prinsip dan pemeriksaan membantu mengelola risiko, tetapi sistem tetap dapat salah dan keadaan dapat berubah. Sediakan cara mendeteksi, mengoreksi, dan mempelajari masalah.
Apakah semua tugas perlu tingkat pemeriksaan yang sama?
Tidak. Sesuaikan pemeriksaan dengan dampak bila hasil keliru, pihak yang terdampak, serta kemudahan membalikkan tindakan.
Haruskah pengguna diberi tahu?
Kebutuhannya bergantung pada konteks, kebijakan, dan aturan yang berlaku. Setidaknya jangan membuat orang salah paham mengenai siapa atau apa yang mengambil keputusan dan cara meminta bantuan manusia.
Untuk ringkasan dimensi Responsible AI, baca pengantar Responsible AI Google for Developers. Jika model menghasilkan fakta yang perlu dipastikan, gunakan langkah verifikasi jawaban AI.
