AI mungkin segera bisa berkembang dari sekadar memprediksi apa yang Anda beli menjadi menebak apa yang Anda pikirkan. Itulah peringatan dari CEO Palantir, Alex Karp.
Dengan saham AI yang terus melonjak, pernyataan Karp menimbulkan pertanyaan yang cukup mengkhawatirkan: Apakah teknologi ini nantinya akan mampu menebak pikiran pribadi seseorang？
Apakah AI Akan Segera Mengetahui Apa yang Anda Pikirkan？
Perusahaan saat ini sudah memanfaatkan AI untuk menebak apa yang mungkin akan dibeli oleh pelanggan atau apakah seseorang bisa membayar pinjaman. Sistem-sistem ini mempelajari perilaku masa lalu seseorang untuk menebak tindakan mereka selanjutnya.
Karp memberi peringatan bahwa teknologi ini bisa berkembang jauh lebih jauh, hingga mampu menebak apa yang sedang dipikirkan seseorang bahkan sebelum mereka bertindak.
Palantir membangun perangkat lunak canggih yang digunakan oleh militer Amerika Serikat dan lembaga pemerintah. Teknologinya membantu menganalisis data di medan perang dan mendukung pengambilan keputusan militer.
Disponsori
Disponsori
Sekarang, Karp mengingatkan bahwa sistem prediktif serupa bisa saja nantinya digunakan untuk memantau masyarakat di dalam AS. Poin-poin utamanya meliputi:
- Metode prediktif yang sama bisa diarahkan ke dalam negeri.
- Sistem seperti itu nantinya bisa saja menebak pikiran yang muncul dalam kehidupan sehari-hari masyarakat.
- Kita harus membahas pengendalian sejak sekarang sebelum teknologi ini semakin menyebar.
- Pembatasan pada penggunaan militer bisa membuat Amerika Serikat lebih rentan terhadap pesaingnya.
Ia juga mengingatkan bahwa perusahaan bisa saja mematuhi aturan hukum secara tertulis namun tetap melanggar tujuannya.
“Anda sebenarnya bisa memprediksi perilaku seseorang, yang artinya Anda mungkin dapat menebak pikiran yang akan muncul dalam konteks domestik. Sekarang, inilah yang harus kita mulai kendalikan,” ujar Karp dalam sebuah wawancara baru-baru ini.
Apakah Investor Mengabaikan Isu Etika？
Para investor sejauh ini belum terpengaruh. PLTR mencatat harga tertinggi baru sebesar US$212,94 kemarin. Sahamnya kini diperdagangkan di kisaran US$209, naik sekitar 25% dalam sebulan terakhir dan lebih dari 50% selama enam bulan.
Dalam lima tahun, harga sahamnya telah naik lebih dari 780%, sehingga kapitalisasi pasarnya pun melampaui US$500 miliar. Kontrak pemerintah yang kuat dan permintaan tinggi terhadap alat AI komersial terus mendorong reli ini.
Kenaikan pesat ini membuat perhatian masih terfokus pada pertumbuhan, bukan pada tata kelola. Meski begitu, ketegangan antara keduanya tetap nyata. Komentar Karp menimbulkan pertanyaan tentang pengawasan, kebebasan pribadi, serta siapa yang berhak menentukan batasan penggunaan alat prediksi tersebut.
Performa Harga Palantir (PLTR) | Sumber: TradingView
Batasan untuk sistem prediktif yang menganalisis perilaku pribadi saat ini masih terus diperdebatkan. Semua pihak—perusahaan, regulator, dan pengadilan—akan saling membentuk di mana garis batas itu akan berakhir.
Arah pergerakan sahamnya mungkin akan lebih dipengaruhi oleh regulasi, bukan dengan isu etika. Untuk saat ini, pasar masih memprioritaskan pertumbuhan.