bit/nusantara

Hinton Peringatkan Serangan Siber AI, Pakar Lain Soroti Ancaman dari Orang Dalam

Redaksi Bit Nusantara ·

Kedekatan detail kamera smartphone modern di latar belakang gelap.
Ilustrasi · Foto: Jatin Jangid / Pexels

TL;DR · Ringkasan

Geoffrey Hinton, ilmuwan peraih Hadiah Nobel yang kini berusia 78 tahun, memperingatkan bahwa serangan siber oleh AI kemungkinan besar terjadi, sementara kesadaran mesin kembali dibicarakan. Peneliti Jacob Coxon yang mundur dari Anthropic menyuarakan kekhawatiran serupa, dan pendiri SearchInform Lev Matveev menyoroti sisi lain keamanan siber, yakni ancaman dari orang dalam organisasi.

Poin kunci

  • Geoffrey Hinton, peraih Hadiah Nobel berusia 78 tahun, keluar dari Google pada 2023 karena cemas teknologi AI dapat melahirkan robot pembunuh.
  • Jacob Coxon, peneliti yang mundur dari Anthropic, menilai AI dapat membunuh manusia dalam beberapa tahun bila pengembangannya tidak dikendalikan.
  • Anthropic memperbarui konstitusi Claude dengan menyebut status moral, kesejahteraan, dan kesadaran sistem itu masih sangat tidak pasti.
  • Lev Matveev, pendiri SearchInform, menyebut keuntungan finansial, kelalaian, dan kurangnya kehati-hatian sebagai motif umum ancaman orang dalam.
  • Pangsa penjualan gabungan lima raksasa digital multinasional naik dari 21 persen pada 2017 menjadi 48 persen pada 2025.

JAKARTA, BIT NUSANTARA — Geoffrey Hinton, ilmuwan yang dijuluki Bapak AI sekaligus penerima Hadiah Nobel, kembali mengingatkan bahaya kecerdasan buatan. Di usia 78 tahun, ia menyoroti risiko serangan siber yang melibatkan AI serta kemungkinan mesin memiliki kesadaran.

"Saya rasa akan ada serangan siber mengerikan yang dilakukan AI," kata Geoffrey Hinton. Ia juga menekankan perlunya menanamkan kepedulian pada sistem AI terhadap manusia. "Jadi kita harus membuat mereka agar benar-benar peduli pada kita. Dan jika kita tidak melakukannya, tamatlah riwayat kita," kata Geoffrey Hinton.

Kekhawatiran Hinton bukan hal baru. Pada 2023, ia meninggalkan Google karena menilai teknologi AI berpeluang berkembang menjadi ancaman bagi manusia. Salah satu hal yang menghantuinya adalah kemungkinan lahirnya robot pembunuh.

Suara peringatan juga datang dari dalam industri. Jacob Coxon mengundurkan diri dari Anthropic dan menyampaikan kecemasannya dalam pertemuan Dewan Kota New York. Menurutnya, AI berpotensi menewaskan manusia dalam beberapa tahun ke depan bila pengembangannya dibiarkan tanpa kendali. Ia juga memperingatkan hal serupa jika laju pengembangan tidak dihentikan.

"Dari pengalaman saya, perusahaan-perusahaan tersebut bertindak sangat sembrono mengingat risiko yang dipertaruhkan," kata Jacob Coxon. Ia menambahkan, "Perusahaan-perusahaan ini beroperasi dengan pola pikir startup: bergerak cepat, hancurkan, perbaiki nanti," kata Jacob Coxon.

Di tengah perdebatan itu, Anthropic memperbarui konstitusi untuk Claude. Dokumen tersebut mengakui bahwa status moral, kesejahteraan, dan kesadaran bot tersebut masih sangat tidak pasti. Pernyataan yang sama dilaporkan memuat catatan bahwa ketidakpastian itu menyangkut sistem AI secara umum.

Dari sisi keamanan siber, ancaman tidak selalu datang dari luar. Lev Matveev, pendiri SearchInform, menjelaskan bahwa gangguan dari orang dalam pada umumnya bermotif keuntungan finansial, kelalaian, dan minimnya kehati-hatian.

Konteks ekonominya turut memperlihatkan betapa besar taruhannya. Lima perusahaan multinasional digital terbesar menguasai 48 persen penjualan gabungan pada 2025, naik dari 21 persen pada 2017. Pangsa aset gabungannya meningkat dari 17 menjadi 35 persen pada periode yang sama.

Dampak AI terhadap pekerja juga mulai terukur. Menurut Organisasi Perburuhan Internasional, kira-kira satu dari empat pekerja sedunia menjalani pekerjaan yang terpapar AI generatif pada tingkat tertentu, dan sekitar 3,3 persen pekerjaan global masuk kelompok paparan tertinggi.

Data upah di Amerika Serikat memberi gambaran yang lebih konkret. Apollo Global Management mencatat bahwa sejak 2023, kenaikan upah riil pada bidang kerja berpaparan AI tinggi tertinggal 6,7 poin persentase dari bidang berpaparan rendah.

Arus dana ke sektor ini pun sangat besar. Greg Brockman, pendiri dan Presiden OpenAI, menyebut perusahaannya memproyeksikan belanja daya komputasi sebesar US$50 miliar pada tahun yang dimaksud. IMF memperkirakan investasi swasta terkait AI di seluruh dunia dapat melebihi US$2 triliun pada 2026, dan investasi teknologi terkait AI disebut menyumbang 0,5 poin persentase bagi pertumbuhan PDB Amerika Serikat pada 2025.

// Analisis redaksi

pendapat Redaksi Bit Nusantara · terpisah dari fakta

Peringatan Hinton dan Coxon sama-sama mengarah pada soal kendali: laju pengembangan yang dinilai terlalu cepat dan kehati-hatian yang dianggap kurang. Pernyataan Coxon bahwa perusahaan AI bergerak dengan pola pikir startup menjadi pertanyaan penting ketika Anthropic sendiri mengakui status moral dan kesadaran Claude masih sangat tidak pasti. Ketidakpastian yang diakui pengembang itu dapat memperkuat argumen bahwa pengawasan perlu berjalan seiring dengan inovasi.

Pendapat Lev Matveev menambah lapisan lain. Bila ancaman orang dalam kerap berakar pada kelalaian dan kurangnya kehati-hatian, serangan siber berbantuan AI yang dikhawatirkan Hinton berpotensi memanfaatkan celah manusia semacam itu, meski bahan tidak menyebut hubungan langsung keduanya. Di sisi lain, konsentrasi penjualan dan aset pada segelintir perusahaan digital serta besarnya investasi terkait AI patut dicermati, karena keputusan kecepatan dan keselamatan berpotensi terpusat pada sedikit pihak.