സോഷ്യൽ മീഡിയയിലെ കള്ളനാടകങ്ങൾക്ക് ഇനി സെൻസർ!...

വ്യാജ വീഡിയോകൾക്ക് നിയന്ത്രണം: സോഷ്യൽ മീഡിയയിലെ ‘ഡീപ്ഫേക്ക്’ തട്ടിപ്പുകൾക്ക് ഇനിമുതൽ സെൻസർ

സോഷ്യൽ മീഡിയയിൽ വർധിച്ചുവരുന്ന വ്യാജ വീഡിയോകളെയും ചിത്രങ്ങളെയും (ഡീപ്ഫേക്ക്) നിയന്ത്രിക്കാൻ കേന്ദ്രസർക്കാർ പുതിയ നിർദ്ദേശം കൊണ്ടുവരുന്നു. എ.ഐ. സാങ്കേതികവിദ്യ ഉപയോഗിച്ച് നിർമ്മിക്കുന്നതും, യാഥാർത്ഥ്യം എന്ന് തോന്നിക്കുന്നതുമായ ഇത്തരം വ്യാജ ഉള്ളടക്കങ്ങൾക്ക് ഇനിമുതൽ ‘കൃത്രിമം’ (Manipulated/Artificial) എന്ന ലേബൽ നിർബന്ധമാക്കിയിരിക്കുകയാണ്.

പുതിയ ചട്ടവും അതിന്റെ ആവശ്യകതയും:

• ഡീപ്ഫേക്ക് ഭീഷണി: സിനിമകളിലും ഗെയിമുകളിലും ഉപയോഗിച്ചിരുന്ന ഈ സാങ്കേതികവിദ്യ ഇന്ന് രാഷ്ട്രീയ പ്രചരണത്തിനും വ്യക്തിവിദ്വേഷത്തിനും പണം തട്ടലിനുമായി വ്യാപകമായി ദുരുപയോഗം ചെയ്യപ്പെടുന്നു. [00:13, 00:26]

• തട്ടിപ്പിന്റെ ഉദാഹരണം: സമീപകാലത്ത് കേന്ദ്ര ധനമന്ത്രി നിർമ്മല സീതാരാമൻ ഒരു സ്വകാര്യ നിക്ഷേപ പദ്ധതിയെ പുകഴ്ത്തുന്ന വ്യാജ വീഡിയോ കണ്ട് ഹൈദരാബാദിലെ ഒരു ഡോക്ടർക്ക് 20 ലക്ഷം രൂപ നഷ്ടപ്പെട്ട സംഭവം റിപ്പോർട്ട് ചെയ്തിരുന്നു. [00:36, 00:40]

• സർക്കാർ നടപടി: സാമൂഹ്യ മാധ്യമങ്ങളിലൂടെ തെറ്റിദ്ധാരണ പരത്തി പണം തട്ടുന്നവരെ നിയന്ത്രിക്കാനാണ് ഈ നീക്കം. ഇനിമുതൽ ഇത്തരം കൃത്രിമ ഉള്ളടക്കങ്ങൾ ‘കൃത്രിമം’ എന്ന ലേബലോടെ മാത്രമേ പ്രചരിപ്പിക്കാൻ പാടുള്ളൂ. [00:48, 01:02]

വിജയസാധ്യതയും വെല്ലുവിളികളും:

പുതിയ ചട്ടം നിലവിൽ വരുന്നതോടെ ഡീപ്ഫേക്ക് വിസ്ഫോടനത്തിന് ഒരു പരിധിവരെ നിയന്ത്രണം വരുത്താൻ സാധിക്കുമെന്നാണ് പ്രതീക്ഷ. [01:10]

• എങ്കിലും, കബളിപ്പിച്ച് ലാഭം നേടാൻ ശ്രമിക്കുന്നവർ എത്രത്തോളം സ്വയം വെളിപ്പെടുത്തും, സാമൂഹ്യ മാധ്യമ പ്ലാറ്റ്‌ഫോമുകൾ എത്രമാത്രം ജാഗ്രത പുലർത്തും എന്നതെല്ലാം ചോദ്യചിഹ്നമായി തുടരുന്നു. [01:14]

• ഭാവിയിൽ കൂടുതൽ നിയന്ത്രണങ്ങൾ ആവശ്യമുണ്ടെങ്കിലും, ഈ നിയമം ഡീപ്ഫേക്ക് ഭീഷണിയെ കുറച്ചെങ്കിലും പിടിച്ചുനിർത്താൻ സഹായിക്കുമെന്ന് റിപ്പോർട്ട് വിലയിരുത്തുന്നു. [01:27]

കൂടുതൽ വിവരങ്ങൾ അറിയാൻ വീഡിയോ കാണുക: http://www.youtube.com/watch?v=y017eEYEkTE

Regulation on Fake Videos: Social Media’s ‘Deepfake’ Scams to be Censored from Now On

The Central Government is introducing a new regulation to curb the rising menace of fake videos and images (Deepfakes) on social media. Content created using AI technology that appears realistic, known as Deepfakes, must now carry a mandatory label, ‘Manipulated’ (or ‘Artificial’).

The New Rule and Its Necessity:

• Deepfake Threat: This technology, previously used in movies and games, is now widely misused for political propaganda, personal defamation, and financial fraud. [00:13, 00:26]

• Example of Fraud: A recent case involved a fake video showing Union Finance Minister Nirmala Sitharaman endorsing a private investment scheme, leading to a doctor in Hyderabad losing ₹20 Lakh. [00:36, 00:40]

• Government Action: This move aims to control those who spread misinformation and commit fraud through social media platforms. Such manipulated content must now be distributed only with the ‘Manipulated’ label. [00:48, 01:02]

Chances of Success and Challenges:

It is hoped that the new regulation will, to some extent, control the explosion of Deepfakes. [01:10]

• However, the extent to which fraudsters will self-declare their content, and how vigilant social media platforms will be, remain critical challenges. [01:14]

• While more regulations may be needed in the future, the report concludes that this law is an encouraging first step to mitigate the Deepfake threat. [01:27]

Watch the video for more details: http://www.youtube.com/watch?v=y017eEYEkTE