పిల్లలపై AI-తో రూపొందించిన నకిలీ అశ్లీల కంటెంట్ నకిలీ చిత్రాలు(Deepfakes), వీడియోల సృష్టి గతంకంటే 46శాతం పెరగడం తీవ్రఆందోళన కలిగిస్తోంది. ఆర్టిఫిషియల్ ఇంటెలిజెన్స్(AI) సాంకేతికత అందుబాటులోకి వచ్చిన తర్వాత, వాస్తవ రూపాలను పోలిన నకిలీ అసభ్యకర కంటెంట్‌ను సృష్టించడం నేరగాళ్లకు సులువైంది.
ఇంటర్నెట్ వాచ్ ఫౌండేషన్ (IWF) ప్రకారం, AI- రూపొందించిన బాలల లైంగిక వేధింపుల సామగ్రి ఆన్‌లైన్‌లో విపరీతంగా పెరిగిపోతోంది, మరియు 2026లో దర్యాప్తు చేయబడిన అక్రమ చిత్రాల సంఖ్య ఇప్పటికే గత సంవత్సరం నమోదైన మొత్తాన్ని అధిగమించింది.
ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (AI) టెక్నాలజీ అందుబాటులోకి వచ్చిన తర్వాత దాని దుర్వినియోగం కూడా పెరుగుతోంది. ముఖ్యంగా AI సాయంతో పిల్లల నకిలీ అశ్లీల కంటెంట్ విపరీతంగా కనిపించడం ఆందోళన కలిగిస్తున్నది. యూకేకు చెందిన ఇంటర్నెట్ వాచ్ ఫౌండేషన్ (IWF) తాజా రిపోర్టు ఈ విషయాన్ని వెల్లడించింది.
IWF ప్రకారం.. 2026లో మొదటి ఆరు నెలల్లోనే చట్టపరంగా AI తో రూపొందించిన 6వేల 310 పిల్లల నకిలీ అశ్లీల కంటెంట్ చిత్రాలను విశ్లేషకులు గుర్తించారు. 2025 మొత్తం ఏడాదిలో గుర్తించిన 4వేల 500కుపైగా చిత్రాలతో పోలిస్తే ఈ సంఖ్య 40 శాతం ఎక్కువ. అంటే ఏడాది పూర్తికాకముందే గత ఏడాది కంటే ఎక్కువ AI డీప్ ఫేక్ ఫొటోలు, వీడియోలు బయటపడటం పరిస్థితి తీవ్రతను తెలియజేస్తోంది.
ఎక్కువగా 7 నుంచి 13 ఏళ్ల బాలికల ఫొటోలే
IWF విశ్లేషించిన AI చిత్రాల్లో ఎక్కువగా 7 నుంచి 13 ఏళ్ల వయసున్న బాలికలు, పిల్లలను పోలిన నకిలీ ఫొటోలు ఉన్నట్లు గుర్తించారు. వీటితో పాటు AI సాయంతో రూపొందించే వీడియోల సంఖ్య కూడా గత కొంతకాలంగా పెరుగుతున్నట్లు సంస్థ తెలిపింది.
AI టూల్స్‌ను ఉపయోగించి నిజమైన పిల్లల ఫొటోలను మార్ఫింగ్ చేయడం, వాటిని అసభ్యకరంగా మార్చడం కూడా సులభమవుతోంది. దీనిపై పిల్లల భద్రత కోసం పనిచేస్తున్న సంస్థలు తీవ్ర ఆందోళన వ్యక్తం చేస్తున్నాయి.
పిల్లల ఫొటోల మార్ఫింగ్‌పై ఫిర్యాదులు
AI కారణంగా పిల్లల ఫొటోలను మార్ఫింగ్ చేసి అసభ్యకరంగా మార్చే ఘటనలు కూడా పెరుగుతున్నాయి. ఆన్‌లైన్‌లో ఇలాంటి చిత్రాలను తొలగించేందుకు పనిచేస్తున్న ‘రిపోర్ట్ రిమూవ్’ సేవకు ఈ ఏడాది ఇప్పటికే 420 ఫిర్యాదులు అందాయి. 2025లో వచ్చిన 397 ఫిర్యాదులతో పోలిస్తే ఈ సంఖ్య పెరిగింది.
కఠినమైన చట్టాలు కావాలి
AI టెక్నాలజీ దుర్వినియోగాన్ని అరికట్టేందుకు మరింత కఠినమైన చట్టాలు తీసుకురావాలని IWF కోరుతోంది. కంపెనీలు ప్రారంభం నుంచే భద్రతకు ప్రాధాన్యం ఇచ్చేలా AI మోడళ్లను రూపొందించాలని సంస్థ సూచించింది.యూకేలో AI ద్వారా పిల్లలపై లైంగిక కంటెంట్ తయారు చేయడం చట్టవిరుద్ధం. ఇలాంటి కంటెంట్ తయారు చేసేందుకు ప్రత్యేకంగా రూపొందించిన AI మోడళ్లను అభివృద్ధి చేయడం, వాటిని ఇతరులకు అందించడం కూడా నేరంగా పరిగణిస్తున్నారు. ఇలాంటి కంటెంట్‌ను రూపొందించేందుకు ఉపయోగించే AI మోడల్‌ను అభివృద్ధి చేస్తే ఐదేళ్ల వరకు జైలు శిక్ష పడే అవకాశం ఉంది.
సోషల్ మీడియాలో పిల్లల ఫొటోలు పెట్టేటప్పుడు జాగ్రత్త
పిల్లల ఫొటోలను సోషల్ మీడియాలో పోస్ట్ చేయకుండా పేరెంట్స్ జాగ్రత్తలు తీసుకోవాలని నేషనల్ క్రైమ్ ఏజెన్సీ, IWF సూచిస్తున్నాయి. పిల్లల ఫొటోలు సోషల్ మీడియాలో షేర్ చేయాల్సి వస్తే అకౌంట్‌ను ప్రైవేట్‌గా ఉంచడం మంచిదని సూచిస్తున్నాయి. అవసరమైతే కేవలం కుటుంబ సభ్యులు, నమ్మకమైన సన్నిహితులతో మాత్రమే ఫొటోలను షేర్ చేసుకోవాలని చెబుతున్నాయి. AI టెక్నాలజీ వేగంగా అభివృద్ధి చెందుతున్న క్రమంలో పిల్లల ఫొటోలు, వ్యక్తిగత సమాచారాన్ని ఆన్‌లైన్‌లో షేరింగ్ విషయంలో పేరెంట్స్ మరింత అప్రమత్తంగా ఉండాల్సిన అవసరం ఉంది.