May ipinakakalat na Facebook videos na nagsasabing si San Miguel Corp. (SMC) chairman Ramon Ang at Tesla CEO Elon Musk ay nagsanib-puwersa raw para sa isang mapagkakakitaang investment para sa mga Pinoy. Ang mga video na ipinagmumukhang balita ng ABS-CBN ay peke at inedit gamit ang artificial intelligence (AI).
Ang dalawang pekeng video na ini-upload noong June 30 at July 4 ay may magkatulad na mga elemento:
- TV Patrol logo,
- pamagat na “Elon Musk has joined forces with Ramon Ang” (Elon Musk, nakipagsanib-puwersa kay Ramon Ang), at
- si Ang, kahit nasa magkaibang interview at may magkaibang damit, ay parehong-pareho ang sinasabi sa dalawang video:
“Elon Musk and I have joined forces to create a project capable of generating 2,860,000 pesos per month with a minimum investment of only 14,100 pesos. This innovative tool combines cutting-edge technology with deep economic knowledge, providing every citizen of the Philippines with access to high-yield opportunities. If you happen to lose money, our support team will return double the amount you spent. I am so confident in this project because it is funded not only by me, but also by Elon, the richest person in the world at the moment.“
(Si Elon Musk at ako ay nagsanib-puwersa para gumawa ng proyektong kayang kumita ng 2,860,000 piso kada buwan, sa puhunang 14,100 piso lang. Sa modernong instrumentong ito ay pinagsama ang makabagong teknolohiya at malalim na kaalaman sa ekonomiya, binibigyang-pagkakataon ang bawat mamamayan sa Pilipinas na kumita nang malaki. Kung sakaling malulugi kayo, ibabalik namin ang doble ng ipinuhunan niyo. Sobrang tiwala ko sa proyektong ito dahil hindi lang ako ang namuhunan dito, kundi pati si Elon Musk na pinakamayamang tao sa mundo.)
Kinumpirma ng ABS-CBN sa VERA Files na peke ang mga balitang ito.
Ang mga video ay ginawa gamit ang generative AI—gaya ng voice cloning, video generation, at lip syncing—gamit ang mga lumang interview ni Ang.
Kung totoong may proyekto si Ang na pangatlong pinakamayaman sa Pilipinas, at si Musk na pinakamayaman sa mundo, ibabalita ito ng iba’t ibang mapagkakatiwalaang media. Pero kahit Google ay walang mahanap na balita tungkol dito.
Hindi totoo ang mga video
Sa reply sa email ng VERA Files, sinabi ni ABS-CBN news chief Francis Toral na:
“ABS-CBN News would like to clarify that this video is not from TV Patrol, and is fabricated content. We would like to advise the public not to believe or fall prey to these false and deceitful videos, and report these to ABS-CBN or to social media platforms.“
(Nililinaw ng ABS-CBN na peke ang mga video na ito at hindi galing sa TV Patrol. Pinapayuhan din namin ang publiko na huwag maniwala o magpabiktima sa ganitong mga peke at mapanlinlang na video, at i-report ang mga ito sa ABS-CBN o social media platforms.)
Gumamit ng reverse image search ang VERA Files para hanapin ang totoong mga video ni Ang.
Ang isa ay interview ng Rappler noong March 31, 2023, tungkol sa bagong bodega ng mga baterya ng SMC, planong motor sports complex sa Bulacan, suporta sa college sports teams, at oil spill na sangkot ang isang SMC subsidiary.
Ang isa pa ay interview naman ng Bilyonaryo noong Sept. 7, 2023, tungkol sa pagpili ng Ferrari sa SMC bilang subsidiary at nag-iisang distributor sa Pilipinas ng Italian luxury sportscar.
Ang: Hindi ako mag-eendorso ng investment online
Nagbabala si Ang laban sa mga investment scam noong February, pagkatapos ng isa na namang scam na ginamit ang lumang interview sa kanya ni Anthony Taberna.
Sabi niya: “I have never endorsed, and will never endorse, any investment opportunity online.” (Hindi ako nag-endorso at hindi ako mag-eendorso kahit kailan ng kahit anong investment online.)
Binalaan niya rin ang publiko laban sa mga scammer na ginagamit ang kanyang mga lumang interview at ine-edit gamit ang deepfake para magmukhang totoo ang mga endorsement.
May voice cloning at AI-generated visuals sa mga video ni Ramon Ang
Ang deepfake ay mga photo, video, at audio na ginamitan ng AI para magmukhang sinasabi at ginagawa ng mga tao ang mga bagay na hindi naman talaga nila sinabi o ginawa.
Ayon kay Dominic Ligot, nangungunang AI expert sa Pilipinas, ang mga video ni Ang ay galing sa totoong mga interview na inedit gamit ang voice cloning at lip syncing.
Gamit ang Hiya voice cloning detection tool na puwedeng gamitin ng mga fact checker sa pamamagitan ng InVID verification tool, lumalabas na ang mga video ni Ang ay ginamitan ng AI.
Ang audio ng video na ini-upload noong June 30 ay may 64% AI-generated fragments, at ang audio ng video na ini-upload noong July 4 ay may 98% AI-generated fragments.
Caption: Results from Hiya.com via InVID
Ayon naman sa Hive Moderation, na nakade-detect naman ng AI content sa mga video, lumabas na may 99% detection rate sa ilang parte ng video na ini-upload noong June 30. Ipinakita rin ng resulta mula sa Hive na malamang na ginamitan ng ChatGPT-4o para likhain ang video, kasama ang “kamayan” kuno nina Ang at Musk.
Pero kahit hindi gumamit ng detection tools, may mga palatandaan para mahalatang peke ang mga video. Madalas hindi nagagaya ng voice cloning at synthetic speech ang accent ng taong ginagaya.
Sa parehong video, binigkas ng pekeng “Ramon Ang” ang “pesos” gamit ang American accent, imbis na puntong Pinoy.
Mag-ingat sa mga scam na gumagamit ng deepfake
Ang mga pekeng video ay may lagpas 90,000 views. Ni-request ng isang mambabasa ng VERA Files na i-fact check ito, gamit ang aming Misinformation Tip Line sa Messenger.
Bakit gumagamit ng deepfake ang mga scammer? Sagot ng AI expert na si Ligot:
“The footage definitely adds credibility to any scamming attempt. Celebrities and prominent individuals who have existing video footage are common targets since they have source data that can be used to train or clone via AI.”
(Siguradong nakakadagdag ng kredibilidad sa kahit anong scam ang paggamit ng deepfake. Karaniwang target ang mga artista at iba pang mga sikat dahil may source data sila na puwedeng gamitin para sanayin o gayahin gamit ang AI.)
Si Ang, Pangulong Bongbong Marcos, at Dr. Tony Leachon ay ilan lang sa marami pang kilalang taong ilang beses nang nagamit para sa mga pekeng endorsement.
Mag-ingat at huwag magpaloko sa mga scam. I-report ang mga kaduda-dudang content sa vera.ph/MessengerTipLine.
