68% Publik Indonesia Mengaku Bergantung pada AI, Bagaimana Perusahaan Mengendalikan Risiko Keamanannya?
AI semakin menjadi bagian dari aktivitas kerja sehari-hari. Produktivitas meningkat, pekerjaan lebih cepat, dan kemampuan baru terbuka. Namun ketika AI menjadi bagian dari workflow perusahaan, attack surface dan risiko keamanan juga ikut berkembang.
AI Semakin Dominan di Tempat Kerja: Antara Produktivitas dan Risiko Keamanan
Artificial Intelligence (AI) telah berubah dari sekadar teknologi eksperimental menjadi salah satu tools yang digunakan dalam aktivitas kerja sehari-hari. Mulai dari membuat draft dokumen, menganalisis data, membantu pemrograman, menghasilkan ide, hingga mengotomatisasi proses bisnis, AI memberikan cara baru bagi pekerja dan perusahaan untuk menyelesaikan pekerjaan dengan lebih cepat.
Perubahan ini terlihat jelas di Indonesia. Microsoft Work Trend Index 2026 mencatat bahwa 33% pekerja Indonesia termasuk Frontier Professionals, yaitu kelompok pengguna AI tingkat lanjut, dibandingkan rata-rata global sebesar 16%. Sebanyak 72% pengguna AI di Indonesia juga mengatakan bahwa AI memungkinkan mereka menghasilkan pekerjaan yang sebelumnya tidak dapat mereka hasilkan.
Di sisi lain, sebuah artikel Graphie yang mengompilasi sejumlah survei menyebutkan bahwa 68% publik Indonesia mengaku bergantung pada AI. Angka ini sebaiknya dipahami sebagai indikator ketergantungan atau reliance terhadap AI, bukan sebagai ukuran klinis mengenai “kecanduan AI”.
Semakin tinggi adopsi AI, semakin besar pula kemungkinan AI masuk ke proses yang sebelumnya hanya ditangani manusia. Di sinilah perusahaan perlu melihat AI bukan hanya sebagai productivity tool, tetapi sebagai bagian dari business infrastructure yang harus dikelola risikonya.
Memahami Risiko Keamanan di Balik Penggunaan AI
AI dapat memberikan manfaat besar, tetapi penggunaannya juga memperkenalkan risiko baru. Masalahnya tidak selalu berasal dari teknologi AI itu sendiri. Risiko dapat muncul dari cara manusia memasukkan data, membagikan akses, mengintegrasikan AI dengan sistem perusahaan, atau terlalu mempercayai hasil yang diberikan AI.
Risiko bagi Individu
- Memasukkan informasi pribadi atau sensitif ke layanan AI.
- Terlalu bergantung pada output AI tanpa melakukan verifikasi.
- Menggunakan akun atau kredensial AI secara tidak aman.
- Membagikan conversation atau output yang mengandung informasi sensitif.
- Menggunakan kode atau rekomendasi AI tanpa security review.
Risiko bagi Perusahaan
- Kebocoran data perusahaan dan intellectual property.
- Shadow AI di luar kontrol IT dan security team.
- Integrasi AI dengan API, cloud, database, dan aplikasi internal.
- Kesalahan konfigurasi dan access control.
- Attack surface yang meluas hingga sistem bisnis dan perangkat IoT.
Bagaimana dengan Berbagi Akun atau Chat AI?
Salah satu risiko yang sering dianggap sepele adalah penggunaan akun AI secara bersama. Berbagi username dan password dapat menciptakan masalah pada kontrol akses, keamanan kredensial, dan akuntabilitas pengguna.
OpenAI, misalnya, menyatakan bahwa akun ditujukan untuk individu yang membuat akun tersebut. Jika orang lain membutuhkan akses, mereka seharusnya membuat akun sendiri. OpenAI juga menjelaskan bahwa membagikan kredensial dapat meningkatkan risiko akses terhadap informasi pribadi dan informasi pembayaran.
Hal ini berbeda dengan fitur berbagi percakapan. Shared link merupakan mekanisme berbagi snapshot percakapan dan bukan berarti memberikan kredensial akun. Namun, isi percakapan tetap perlu diperhatikan karena orang yang memiliki link dapat melihat konten yang dibagikan.
7 Risiko Keamanan AI yang Sering Tidak Disadari Perusahaan
Data Leakage & Sensitive Information Exposure
Karyawan dapat memasukkan source code, data pelanggan, dokumen internal, informasi finansial, credentials, API keys, atau data strategis ke tools AI tanpa memahami bagaimana data tersebut diproses.
Shadow AI
Penggunaan AI tanpa persetujuan organisasi membuat IT dan security team sulit mengetahui tools apa yang digunakan, data apa yang diproses, dan integrasi apa yang berjalan di lingkungan perusahaan.
Account & Credential Sharing
Berbagi kredensial dapat menghilangkan individual accountability, memperbesar risiko credential exposure, dan menyulitkan perusahaan melakukan audit akses.
Prompt Injection & Manipulation
Sistem AI yang menerima input tidak terpercaya dapat dimanipulasi agar mengabaikan instruksi tertentu, membocorkan informasi, atau melakukan aksi yang tidak semestinya jika kontrol keamanan tidak dirancang dengan baik.
AI-Generated Vulnerable Code
Kode yang dihasilkan AI dapat terlihat benar tetapi tetap memiliki vulnerability, insecure configuration, kesalahan autentikasi, atau kelemahan logika yang berpotensi menjadi attack vector.
Overreliance terhadap Output AI
AI dapat menghasilkan informasi yang tidak akurat atau tidak sesuai konteks. Ketika output digunakan tanpa human verification, kesalahan dapat masuk ke keputusan bisnis maupun proses teknis.
Insecure AI Integration
AI yang terhubung dengan aplikasi, API, database, cloud, atau sistem internal dapat memperluas attack surface apabila autentikasi, authorization, secrets, logging, dan network control tidak dirancang dengan aman.
The Risk Doesn’t Stop at AI.
Dalam lingkungan enterprise, AI jarang berdiri sendiri. AI dapat terhubung dengan aplikasi, API, database, cloud, business systems, bahkan perangkat IoT. Artinya, kelemahan pada satu komponen dapat memengaruhi attack surface yang lebih luas.
Bagaimana Perusahaan Mengendalikan Risiko Keamanan AI?
Mengurangi risiko AI tidak berarti perusahaan harus melarang penggunaan AI. Pendekatan yang lebih efektif adalah membangun governance, access control, monitoring, dan security testing sehingga AI dapat digunakan secara produktif tanpa menciptakan blind spot baru.
- AI Usage Policy: tetapkan aturan mengenai tools AI yang boleh digunakan, jenis data yang boleh diproses, dan tanggung jawab pengguna.
- Data Classification: bedakan public, internal, confidential, dan highly sensitive information sebelum digunakan dalam workflow AI.
- Identity & Access Control: gunakan akun individual, least privilege, MFA, serta kontrol akses yang dapat diaudit.
- Control Shadow AI: inventarisasi penggunaan AI dan berikan approved tools agar kebutuhan pengguna tetap terpenuhi secara aman.
- Review AI Integrations: evaluasi API, secrets, authorization, data flow, logging, dan konfigurasi sistem yang terhubung dengan AI.
- Vulnerability Assessment: identifikasi kelemahan teknis pada aplikasi, API, infrastructure, dan komponen yang mendukung AI.
- Penetration Testing: lakukan pengujian keamanan untuk mengetahui apakah vulnerability yang ditemukan dapat dieksploitasi dalam skenario serangan nyata.
Untuk perusahaan yang mengintegrasikan AI ke aplikasi internal, cloud, API, atau IoT, security assessment sebaiknya dilakukan secara menyeluruh. Fokusnya bukan hanya pada model AI, tetapi pada seluruh ecosystem yang mengelilinginya.
AI Is Evolving. Is Your Security Ready?
Identifikasi vulnerability sebelum dimanfaatkan attacker. Security assessment dan penetration testing membantu perusahaan memahami attack surface dan memperkuat kontrol keamanan pada aplikasi, API, infrastructure, cloud, maupun IoT.
REQUEST SECURITY ASSESSMENTFrom Productivity Tool to Business Infrastructure
Perkembangan AI menunjukkan bahwa perusahaan tidak lagi hanya menggunakan AI untuk eksperimen atau pekerjaan individual. AI mulai masuk ke proses bisnis, pengembangan software, customer service, data analysis, knowledge management, dan automation.
Ketika AI semakin terintegrasi, security responsibility juga ikut meningkat. Data, identity, API, cloud environment, application layer, dan endpoint yang terhubung dengan AI harus diperlakukan sebagai bagian dari satu ekosistem keamanan.
Karena itu, perusahaan perlu menggeser cara pandang dari sekadar “bagaimana menggunakan AI?” menjadi juga “bagaimana menggunakan AI secara aman?”
Kesimpulan
AI memberikan peluang besar untuk meningkatkan produktivitas, mempercepat pekerjaan, dan membuka kemampuan baru bagi individu maupun perusahaan. Namun, semakin luas AI digunakan, semakin besar pula kebutuhan untuk mengelola risiko keamanan di baliknya.
Perusahaan tidak perlu menghindari AI. Yang dibutuhkan adalah governance yang jelas, perlindungan data, identity and access management, kontrol terhadap Shadow AI, secure integration, serta vulnerability assessment dan penetration testing yang dilakukan secara berkala.
Karena pertanyaannya bukan lagi apakah perusahaan akan menggunakan AI, tetapi seberapa aman perusahaan menggunakannya.
AI seharusnya memperkuat bisnis, bukan menjadi celah baru bagi ancaman siber.
FAQ: Keamanan AI di Perusahaan
AI Should Empower Business. Not Create New Risks.
Evaluasi keamanan aplikasi, API, infrastructure, cloud, dan IoT yang terhubung dengan teknologi AI melalui security assessment dan penetration testing.