Perkembangan kecerdasan buatan atau Artificial Intelligence (AI) membawa perubahan besar terhadap cara perusahaan menjalankan aktivitas bisnis. Teknologi ini semakin banyak digunakan untuk mengolah informasi, menyusun laporan, menganalisis dokumen, hingga membantu pengembangan perangkat lunak. Namun, di balik peningkatan produktivitas tersebut, muncul persoalan baru yang mulai menjadi perhatian para pemimpin teknologi, yaitu risiko kebocoran informasi internal melalui penggunaan AI yang tidak terkontrol.
Sejumlah pimpinan teknologi dan informasi perusahaan di Indonesia menilai keamanan menjadi salah satu tantangan terbesar dalam perkembangan AI menuju 2027. Kekhawatiran tersebut mencakup perlindungan data pribadi, informasi bisnis, dokumen internal, hingga sistem digital yang digunakan perusahaan. Risiko dapat muncul ketika karyawan secara tidak sadar memasukkan informasi rahasia ke layanan AI komersial tanpa memahami bagaimana data tersebut diproses dan dilindungi.
Isu ini menjadi salah satu pembahasan dalam konferensi pers Executive Leadership Forum dan iCIO Awards 2026 di Jakarta pada 12 November 2026. Para praktisi teknologi menyoroti bahwa adopsi AI harus diimbangi dengan sistem pengamanan, edukasi karyawan, serta kebijakan pengelolaan informasi yang lebih ketat. Tanpa pengawasan yang memadai, kemudahan menggunakan AI justru dapat membuka celah keamanan baru bagi organisasi.
Pimpinan Teknologi Soroti Risiko Kebocoran Data melalui AI
Perhatian terhadap penggunaan AI di lingkungan perusahaan semakin meningkat seiring bertambahnya jumlah karyawan yang memanfaatkan teknologi tersebut dalam pekerjaan sehari-hari. Berbagai layanan AI dapat membantu menyelesaikan tugas dalam waktu singkat, tetapi penggunaannya juga membutuhkan pemahaman mengenai batasan informasi yang boleh dibagikan.
Founder iCIO Community, Harry Surjanto, menilai perkembangan AI masih berada pada tahap awal dan belum sepenuhnya menghasilkan manfaat yang sebanding dengan besarnya investasi yang dikeluarkan. Menurutnya, teknologi tersebut masih akan berkembang dengan sangat cepat sehingga perusahaan perlu mempersiapkan berbagai aspek pendukung, terutama keamanan.
Ia juga menyoroti bahwa perlindungan informasi dan data pribadi akan menjadi persoalan sensitif dalam perkembangan teknologi berikutnya. Penggunaan AI tidak cukup hanya berorientasi pada peningkatan efisiensi, tetapi harus disertai mekanisme pengendalian yang mampu melindungi informasi organisasi.
Keamanan Menjadi Tantangan dalam Perkembangan AI
Penggunaan AI semakin mudah dijangkau oleh berbagai kalangan pekerja. Karyawan dapat memanfaatkan chatbot untuk menyusun dokumen, menganalisis laporan, memperbaiki kode program, atau mencari solusi terhadap persoalan pekerjaan.
Namun, kemudahan tersebut dapat menimbulkan risiko ketika informasi yang dimasukkan bersifat rahasia. Misalnya, seorang karyawan mengunggah laporan keuangan internal untuk meminta AI membuat ringkasan, atau memasukkan kode sumber aplikasi perusahaan agar sistem dapat membantu menemukan kesalahan pemrograman.
Tindakan tersebut mungkin terlihat sederhana, tetapi dapat menimbulkan persoalan apabila layanan yang digunakan tidak mempunyai perlindungan sesuai kebutuhan perusahaan. Informasi yang dikirimkan ke sistem eksternal dapat diproses berdasarkan ketentuan layanan, konfigurasi privasi, serta kebijakan penyimpanan masing-masing penyedia.
Karena itu, perusahaan perlu memahami bagaimana data diproses sebelum mengizinkan penggunaan layanan AI tertentu. Pengawasan tidak hanya dibutuhkan pada tahap pengadaan teknologi, tetapi juga dalam aktivitas harian karyawan.
Perlindungan Data Pribadi Menjadi Bagian Penting
Selain informasi bisnis, data pribadi juga menjadi perhatian utama dalam penggunaan AI. Informasi pelanggan, identitas karyawan, alamat, nomor telepon, hingga dokumen administrasi dapat masuk ke dalam kategori data yang membutuhkan perlindungan khusus.
Penggunaan informasi tersebut tanpa persetujuan atau mekanisme pengamanan yang sesuai berpotensi menimbulkan persoalan hukum dan reputasi.
Di Indonesia, perlindungan data pribadi telah diatur melalui Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi. Perusahaan perlu memastikan bahwa pemrosesan data dalam penggunaan teknologi AI tetap memperhatikan kewajiban perlindungan informasi sesuai ketentuan yang berlaku.
Dengan semakin luasnya penggunaan AI, kebijakan perlindungan data tidak lagi cukup hanya mengatur penyimpanan dokumen dan akses jaringan internal. Perusahaan juga harus mengatur bagaimana informasi dapat digunakan oleh aplikasi kecerdasan buatan.
Karyawan Berpotensi Menjadi Pintu Masuk Kebocoran Informasi
Salah satu persoalan yang mendapat perhatian dalam diskusi para pimpinan teknologi adalah risiko keamanan yang berasal dari aktivitas pengguna. Sistem keamanan perusahaan mungkin telah dilengkapi berbagai teknologi perlindungan, tetapi kesalahan manusia tetap dapat membuka jalan bagi pihak yang tidak berwenang.
Direktur Teknologi Asian Bulk Logistics, Arief Setiawan, menyinggung kasus pembobolan Binance yang berkaitan dengan penyusupan melalui laptop salah satu karyawan. Ia menjelaskan bahwa persoalan tersebut berkaitan dengan social engineering, bukan semata-mata kelemahan sistem keamanan perusahaan.
Contoh tersebut memperlihatkan bahwa serangan siber tidak selalu dimulai dari kerusakan teknologi. Manipulasi terhadap pengguna dapat menjadi jalan untuk mendapatkan akses ke perangkat maupun informasi internal.
Social Engineering Menjadi Ancaman yang Perlu Diwaspadai
Social engineering merupakan metode manipulasi psikologis yang digunakan pelaku untuk membuat seseorang melakukan tindakan tertentu. Tujuannya dapat berupa memperoleh kata sandi, mengakses perangkat, membuka tautan berbahaya, atau memberikan informasi yang seharusnya dilindungi.
Dalam lingkungan kerja modern, metode tersebut dapat dilakukan melalui email, pesan instan, telepon, maupun dokumen yang terlihat seperti komunikasi resmi.
Karyawan yang tidak memahami pola serangan dapat menjadi sasaran. Bahkan, perangkat yang sudah dilengkapi antivirus dan sistem keamanan lainnya tetap berpotensi disusupi apabila pengguna memberikan akses kepada pihak yang tidak seharusnya.
Penggunaan AI juga dapat memperluas variasi serangan. Teknologi generatif memungkinkan pelaku membuat pesan penipuan yang lebih meyakinkan, menyesuaikan gaya bahasa perusahaan, atau menghasilkan dokumen palsu dengan tampilan profesional.
Situasi tersebut membuat edukasi keamanan digital semakin penting. Perusahaan perlu mengajarkan karyawan mengenali komunikasi mencurigakan, memverifikasi permintaan akses, dan tidak membagikan informasi sensitif melalui saluran yang belum terjamin.
Penggunaan AI Tanpa Pengawasan Memperbesar Risiko
Risiko lainnya muncul ketika karyawan menggunakan layanan AI pribadi untuk menyelesaikan pekerjaan tanpa persetujuan bagian teknologi informasi.
Praktik ini sering disebut sebagai shadow AI. Istilah tersebut merujuk pada penggunaan aplikasi atau layanan AI di lingkungan organisasi tanpa sepengetahuan maupun pengawasan resmi perusahaan.
Karyawan mungkin menggunakan akun pribadi karena merasa lebih praktis atau ingin menyelesaikan pekerjaan lebih cepat. Namun, aktivitas tersebut dapat menyebabkan informasi internal berpindah ke layanan yang belum melalui pemeriksaan keamanan.
Misalnya, seorang staf memasukkan dokumen kontrak perusahaan ke chatbot publik untuk meminta ringkasan. Karyawan lain mungkin mengunggah daftar pelanggan agar AI membantu mengelompokkan data pemasaran.
Apabila perusahaan tidak mempunyai kebijakan yang jelas, aktivitas tersebut dapat berlangsung tanpa diketahui pengelola sistem informasi.
Masalahnya bukan semata-mata karena AI digunakan, melainkan karena organisasi tidak mengetahui informasi apa yang dibagikan, siapa yang mengaksesnya, dan bagaimana data tersebut diproses.
Frontier AI dan Enterprise AI Memiliki Perbedaan Penggunaan
Salah satu perhatian yang disampaikan dalam diskusi iCIO 2026 adalah perbedaan antara layanan AI komersial umum dan solusi AI yang dirancang untuk kebutuhan perusahaan.
CTO FKS Group, Parjan Rustam Lo, menyoroti risiko ketika karyawan memasukkan dokumen rahasia perusahaan ke layanan AI komersial tanpa memahami mekanisme pengelolaan datanya.
Ia menilai perusahaan perlu mempertimbangkan penggunaan model AI khusus untuk kebutuhan internal serta membatasi penggunaan layanan yang belum mendapatkan persetujuan.
Perbedaan tersebut menjadi penting karena setiap layanan mempunyai kebijakan pemrosesan, penyimpanan, dan perlindungan informasi yang tidak selalu sama.
Frontier AI Tidak Selalu Dirancang untuk Kebutuhan Internal Perusahaan
Frontier AI umumnya merujuk pada model kecerdasan buatan paling maju yang memiliki kemampuan luas dalam memahami bahasa, menganalisis informasi, menghasilkan konten, dan membantu berbagai pekerjaan.
Layanan semacam ini dapat digunakan oleh masyarakat umum maupun organisasi. Namun, tidak semua layanan publik menyediakan pengaturan keamanan yang sesuai dengan kebutuhan setiap perusahaan.
Perusahaan perlu memeriksa ketentuan penggunaan data, lokasi pemrosesan, mekanisme penyimpanan, serta pengaturan penggunaan informasi untuk peningkatan model.
Perlu dipahami bahwa tidak semua layanan AI otomatis menggunakan data pengguna untuk melatih model. Kebijakan tersebut berbeda berdasarkan penyedia, jenis layanan, pengaturan akun, dan kontrak yang digunakan.
Meskipun demikian, informasi rahasia tetap tidak seharusnya dimasukkan ke layanan yang belum mendapatkan persetujuan organisasi.
Enterprise AI Menawarkan Pengendalian yang Lebih Terstruktur
Enterprise AI merupakan pendekatan penggunaan kecerdasan buatan yang disiapkan untuk kebutuhan organisasi. Solusi ini umumnya menyediakan pengaturan tambahan terkait akses pengguna, pengelolaan informasi, integrasi sistem, dan administrasi perusahaan.
Perusahaan dapat mengatur siapa yang diperbolehkan menggunakan layanan tertentu serta menentukan jenis informasi yang dapat diproses.
Dalam penerapannya, enterprise AI dapat dihubungkan dengan sistem internal melalui mekanisme autentikasi dan izin akses. Dengan demikian, karyawan tidak harus menggunakan akun pribadi untuk mengolah informasi pekerjaan.
Namun, penggunaan solusi enterprise juga tidak otomatis menghilangkan seluruh risiko. Perusahaan tetap harus melakukan pemeriksaan keamanan, membatasi hak akses, mengawasi aktivitas pengguna, dan memastikan penyedia layanan memenuhi persyaratan perlindungan data.
Pilihan teknologi harus disesuaikan dengan kebutuhan organisasi, tingkat sensitivitas informasi, serta kemampuan pengelolaan infrastruktur.
Tata Kelola Data Menjadi Fondasi Penggunaan AI di Perusahaan
Selain perlindungan teknis, pengelolaan informasi merupakan faktor penting dalam penerapan AI. Sistem kecerdasan buatan membutuhkan data yang berkualitas agar dapat menghasilkan informasi yang relevan dan membantu proses pengambilan keputusan.
Group Head of Technology, Digitalization & Process Excellence PT Semen Indonesia, Anindio Daneswara, menekankan pentingnya data quality, data lineage, data linkage, dan data governance dalam pengembangan teknologi AI.
Keempat aspek tersebut berkaitan dengan kualitas, asal-usul, hubungan, dan tata kelola informasi. Perusahaan perlu memastikan bahwa data yang digunakan dapat ditelusuri serta dikelola berdasarkan aturan yang jelas.
Data Quality Menentukan Keandalan Informasi
Kualitas data berkaitan dengan kualitas informasi yang digunakan dalam sistem. Data yang tidak akurat, tidak lengkap, atau sudah kedaluwarsa dapat menghasilkan analisis yang kurang tepat.
Dalam penerapan AI, kualitas data mempunyai pengaruh terhadap hasil yang dihasilkan model. Informasi yang keliru dapat menyebabkan sistem memberikan rekomendasi yang tidak sesuai dengan kondisi sebenarnya.
Perusahaan perlu melakukan pemeriksaan secara berkala untuk memastikan informasi yang digunakan masih relevan dan dapat dipercaya.
Proses tersebut mencakup validasi data, penghapusan duplikasi, pemeriksaan kesalahan, serta pembaruan informasi.
Data Lineage Membantu Melacak Asal Informasi
Data lineage merupakan konsep untuk melacak perjalanan informasi sejak pertama kali dikumpulkan hingga digunakan dalam berbagai sistem.
Melalui pendekatan ini, perusahaan dapat mengetahui sumber data, perubahan yang terjadi, serta proses yang dilalui sebelum informasi digunakan oleh aplikasi AI.
Kemampuan tersebut penting ketika perusahaan harus melakukan pemeriksaan terhadap hasil analisis atau menelusuri kemungkinan kebocoran informasi.
Jika terjadi insiden keamanan, catatan aliran data dapat membantu tim teknologi memahami informasi apa yang terdampak dan dari mana data tersebut berasal.
Data Governance Mengatur Penggunaan Informasi
Data governance merupakan kerangka pengelolaan yang menentukan bagaimana informasi dikumpulkan, disimpan, digunakan, dibagikan, dan dilindungi.
Perusahaan membutuhkan aturan yang jelas mengenai kepemilikan data, klasifikasi informasi, hak akses, dan tanggung jawab setiap pengguna.
Dokumen publik, informasi internal, data rahasia, serta data pribadi sebaiknya mempunyai kategori perlindungan berbeda.
Dengan klasifikasi tersebut, organisasi dapat menentukan informasi mana yang boleh diproses melalui AI publik dan informasi mana yang hanya dapat digunakan dalam sistem internal yang telah disetujui.
Tata kelola yang baik juga membantu perusahaan mengembangkan AI secara lebih terarah tanpa mengabaikan kewajiban perlindungan informasi.






