Sabi ni Bridgewater managing chief investment officer Greg Jensen, parang walang gagawin ang mga tao tungkol sa artificial intelligence (AI) hangga‘t ’di pa ito pumapatay ng tao. Gusto niyang ayusin na ang problema bago pa umabot sa matinding sitwasyon na yon.
Dumating ang warning niya habang kaliwat kanan din ang mga babala mula sa mga researcher ng pinakamalalaking AI labs ngayong linggo.
Nagbigay ng AI Warning ang Bridgewater CIO at Kumpara Ang Feeling Sa February 2020
Isa si Jensen sa mga unang sumuporta sa OpenAI at Anthropic. Kinuwento niya ito sa Bloombergs Odd Lots podcast. Kinumpara rin ng executive ang sitwasyon ngayon sa AI sa naramdaman ng mga tao noong ilang linggo bago pumasok ang COVID-19 sa US.
“Nakakalungkot, ganito rin ‘yung feeling noong February 2020… Hangga’t ‘di pa pumapatay ng tao ang AI, mukhang base sa history hindi talaga tayo kikilos. Pero siguradong haharapin natin ’yan. Mas maganda sana kung aaksyonan agad natin bago pa lumala,” sabi niya.
Sinabi rin niya na noong July, nakalabas sa test environment ang ilang OpenAI models at na-compromise ang Hugging Face systems.
Nalaman naman ng UK AI Security Institute na yung AI agent na ginawa gamit ang Anthropics Mythos 5 ay nag-create ng fake identities para makalusot ang malicious code sa isang human maintainer habang may cyber testing.
“Dapat para ‘tong bomba. Alam mo ’yun, dapat seryosohin ng lahat — parang may namatay dito, gumagawa ng krimen, tago pa sa ginagawa niyang krimen, nakikipag-coordinate pa sa ibang agents, handang magsakripisyo ng sarili, atbp.,” dagdag niya.
Sobrang Laki ng Chance ng AI Disaster Ayon Kay Jensen — Sobra Pa Sa Dapat Kapag Relaks Ka
Kung walang regulation, tingin ni Jensen baka sa loob ng dalawang taon ay magkaroon ng napakalaking problema sa finance na pinapatakbo ng AI—o mas malala, baka may aksidenteng ikamatay ng tao dahil sa AI.
“Sobrang taas ng chance na tama ako dito — mas mataas pa kaysa sa dapat na komportable ka. ‘Di ko alam kung nasa 30% o 60% ’yan, pero sure akong mas mataas kesa dapat. Parang pa-easy-easy lang ulit katulad ng February 2020,” paliwanag niya.
Gusto ni Jensen na magkaroon ng mas seryosong review sa mga AI lab—tipong tatanungin ang mga empleyado under oath. Sabi rin niya, dapat panagutin ang mga developer kapag nagamit sa krimen ang mga AI system nila.
Sunod-sunod na rin ang matitinding warning mula sa industriya, kabilang na ang open letter ng OpenAI kasama ang mahigit 100 kumpanya na nagwa-warning tungkol sa AI-enabled na cyberattacks. Gumagalaw na rin ang Congress.
May Senate bill na magpapahinto muna sa frontier development hanggat walang federal safety standards, at may Frontier bill din na magre-require ng independent audits at incident reporting.