Sebelumnya, video Kajol yang dimanipulasi muncul dari klip TikTok asli yang dibagikan oleh influencer Rosie Breen, bagian dari tren 'Bersiaplah Dengan Saya'. Deepfake mengubah wajah Breen menjadi mirip Kajol, menggambarkan aktris India bintang Kuch Kuch Hota Hai yang tampak berganti pakaian di depan kamera.
Kejadian meresahkan ini terjadi di tengah meningkatnya kekhawatiran terhadap teknologi deepfake. Memanfaatkan kecerdasan buatan dan pembelajaran mesin, video deepfake memanipulasi dan mendistorsi konten yang ada dengan mengganti wajah atau mengubah suara, sering kali menipu pemirsa agar mempercayai narasi atau tindakan palsu.
Perkembangan teknologi deepfake menimbulkan kekhawatiran mengenai potensi penyalahgunaannya, sehingga membahayakan keaslian dan integritas media visual.
Kemudahan dalam menyebarkan video yang telah diubah ini secara online menimbulkan tantangan terhadap kebenaran dan kredibilitas, sehingga memerlukan pemeriksaan lebih dekat terhadap implikasi etis yang terkait dengan manipulasi konten yang digerakkan oleh AI (Artificial Intelligence).
