ఈ సంవత్సరం, వరల్డ్ ఎకనామిక్ ఫోరమ్ తారుమారు చేయబడిన మరియు తప్పుడు సమాచారాన్ని నేడు ప్రపంచం ఎదుర్కొంటున్న అత్యంత ముఖ్యమైన స్వల్పకాలిక ప్రమాదంగా పేర్కొంది. భారతదేశం ముఖ్యంగా తప్పుడు సమాచారం గురించి ఆందోళన చెందుతోంది, ఈ పరిస్థితి కృత్రిమ మేధస్సు యొక్క విస్తరణ ద్వారా తీవ్రతరం చేయబడింది.
గత సంవత్సరంలో చాలా మంది భారతీయులు AI- రూపొందించిన డీప్‌ఫేక్‌ను ఎదుర్కొన్నారని సర్వేలు చెబుతున్నాయి. ఆ కంటెంట్‌లో కొంత భాగం నిస్సందేహంగా భారతదేశ ప్రజాస్వామ్యానికి ప్రయోజనం చేకూర్చింది, అనేక రాజకీయ పార్టీలు ఓటర్లకు తమ పరిధిని మెరుగుపరచుకోవడానికి మరియు రాజకీయ ప్రసంగాలను అనువదించడానికి AI సాధనాలను అనుసరించాయి. ఏదేమైనా, ఏప్రిల్ 19న ఎన్నికలు ప్రారంభమైనప్పటి నుండి, ఓటర్లను తారుమారు చేయడానికి రాజకీయ నాయకులు మరియు సెలబ్రిటీల పోలికలను ఉపయోగించే డీప్‌ఫేక్ వీడియోలలో పెరుగుదల ఉంది.
ఇది ఎందుకు రాశాను
కీలకమైన ఎన్నికల సమయంలో రాజకీయ డీప్‌ఫేక్‌ల పెరుగుదలతో భారతీయ సమాజం పట్టుబడుతోంది. ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ యొక్క మంచి మరియు చెడులను ప్రజాస్వామ్యాలు ఎలా బ్యాలెన్స్ చేయడానికి రోడ్‌మ్యాప్‌ను రూపొందించడంలో ఈ పని సహాయపడుతుంది.
గత వారం, అట్టడుగు కులాల ప్రయోజనాలను రద్దు చేస్తానని వాగ్దానం చేసిన భారత హోం మంత్రి యొక్క డాక్టరేట్ వీడియో రాజకీయ మంటలను రేకెత్తించింది మరియు అనేక మంది అరెస్టులకు దారితీసింది.
భారతదేశం అంతటా, వ్యక్తులు, సాంకేతిక సంస్థలు మరియు వాస్తవ తనిఖీ సంస్థలు వేగంగా అభివృద్ధి చెందుతున్న ఈ సాంకేతికత యొక్క ప్రమాదాలను తగ్గించడానికి కృషి చేస్తున్నాయి. ఇతర దేశాలు కూడా దృష్టి సారిస్తున్నాయి.
“ఈ కొత్త సాధనాల నేపథ్యంలో మనం మరింత దృఢంగా మారాలి” అని US-ఆధారిత ఆస్పెన్ ఇన్‌స్టిట్యూట్‌లో AI మరియు ప్రజాస్వామ్యం డైరెక్టర్ జోష్ లాసన్ అన్నారు. “AI సాధనాలు భాషా అంతరాన్ని తగ్గించడంలో సహాయపడతాయి మరియు విస్తృతమైన ప్రేక్షకులకు ముఖ్యమైన పౌర సమాచారాన్ని అందించగలవు, అయితే అదే సాధనాలు అక్కడ ఉన్న కీలక సమయాల్లో ఓటర్లను మార్చటానికి కూడా ఉపయోగించవచ్చు.”
భారతదేశం యొక్క మారథాన్ ఎన్నికలు, ఆరు వారాల పాటు కొనసాగుతాయి మరియు సుమారు 1 బిలియన్ ఓటర్లను కలిగి ఉన్నాయి, వేగంగా అభివృద్ధి చెందుతున్న కృత్రిమ మేధస్సు యొక్క సంభావ్యత మరియు ప్రమాదాల గురించి ప్రపంచానికి ఒక సంగ్రహావలోకనం ఇస్తున్నాయి.
సైబర్‌ సెక్యూరిటీ సంస్థ McAfee చేసిన అధ్యయనం ప్రకారం, గత 12 నెలల్లో, 75% కంటే ఎక్కువ మంది భారతీయులు ఏదో ఒక రకమైన డీప్‌ఫేక్ కంటెంట్‌ను అనుభవించారు లేదా నేను కొన్ని వీడియోలు మరియు ఆడియోలను అనుకరించేలా AI సాంకేతికత ద్వారా కంటెంట్‌ను మార్చారు.
ఈ కంటెంట్‌లో కొన్ని నిస్సందేహంగా భారతదేశ ప్రజాస్వామ్యానికి ప్రయోజనం చేకూరుస్తాయి, ప్రధాన మంత్రి నరేంద్ర మోడీ ప్రసంగాలను వివిధ భాషలలో అందుబాటులో ఉంచడానికి అధికార పార్టీ AI సాధనాలను ఉపయోగించడం వంటివి. అయితే ఏప్రిల్ 19న ఎన్నికలు ప్రారంభమైనప్పటి నుండి, రాజకీయ నాయకులు మరియు బాలీవుడ్ ప్రముఖుల పోలికలను కలిగి ఉన్న వైరల్ వీడియోలలో పెరుగుదల ఉంది, పోలింగ్ వ్యవధికి ముందే ఓటర్లను తిప్పికొట్టడం కనిపిస్తుంది.
ఇది ఎందుకు రాశాను
కీలకమైన ఎన్నికల సమయంలో రాజకీయ డీప్‌ఫేక్‌ల పెరుగుదలతో భారతీయ సమాజం పట్టుబడుతోంది. ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ యొక్క మంచి మరియు చెడులను ప్రజాస్వామ్యాలు ఎలా బ్యాలెన్స్ చేయడానికి రోడ్‌మ్యాప్‌ను రూపొందించడంలో ఈ పని సహాయపడుతుంది.
ఉదాహరణకు, గత వారం, భారతదేశ హోం మంత్రి అట్టడుగు కులాల ప్రయోజనాలను రద్దు చేస్తానని వాగ్దానం చేసిన డాక్టరేడ్ వీడియో రాజకీయ తుఫానును రేకెత్తించింది మరియు దాని సృష్టిలో పాల్గొన్న అనేక మంది వ్యక్తుల అరెస్టుకు దారితీసింది.
ఈ డీప్‌ఫేక్‌ల చుట్టూ పెరుగుతున్న ఉన్మాదానికి ప్రతిస్పందనగా, రాజకీయ సమాచార మార్పిడిలో డీప్‌ఫేక్ టెక్నాలజీని ఉపయోగించడాన్ని నిషేధించాలని భారత ఎన్నికల కమిషన్‌ను కోరాలని న్యాయవాదుల సంకీర్ణం ఢిల్లీ హైకోర్టును ఆశ్రయించింది, అయితే కోర్టు ఈ వారంలో పిటిషన్‌ను కొట్టివేసింది. భారతదేశంలోని ఇతర ప్రాంతాలలో, వ్యక్తులు, సాంకేతిక సంస్థలు మరియు వాస్తవ తనిఖీ సంస్థలు సంక్షోభాన్ని పరిష్కరించేందుకు కృషి చేస్తున్నాయి. వీరి ప్రయత్నాలు ఇతర దేశాలు ఎన్నికలకు సిద్ధమవుతున్నాయని నిపుణులు చెబుతున్నారు.
“ఈ కొత్త సాధనాల నేపథ్యంలో మనం మరింత దృఢంగా మారాలి” అని US-ఆధారిత ఆస్పెన్ ఇన్‌స్టిట్యూట్‌లో AI మరియు ప్రజాస్వామ్యం డైరెక్టర్ జోష్ లాసన్ అన్నారు. “AI సాధనాలు భాషా అంతరాన్ని తగ్గించడంలో సహాయపడతాయి మరియు విస్తృతమైన ప్రేక్షకులకు ముఖ్యమైన పౌర సమాచారాన్ని తీసుకురావడానికి కూడా అదే సాధనాలను ఉపయోగించవచ్చు.
“సివిల్ సొసైటీ సంస్థలు, ప్రచారాలు, నియంత్రకాలు మరియు ఓటర్లు అందరూ వాస్తవ-ఆధారిత వాస్తవికతను రక్షించడంలో పాత్రను కలిగి ఉంటారు,” అన్నారాయన.
భారతదేశంలోని గౌహతికి 78 మైళ్ల దూరంలో ఉన్న మోరిగావ్ జిల్లాలో ఏప్రిల్ 25, 2024న, భారతదేశం యొక్క ప్రధాన జాతీయ ఎన్నికల రెండవ దశ సందర్భంగా పోలింగ్ కార్మికులు క్యాండిల్‌లైట్ ద్వారా ఎన్నికల సామగ్రిని సిద్ధం చేస్తున్నారు.
భారతీయ AI ప్రయోగం
భారతదేశంలోని రాజకీయ పార్టీలు ఓటర్లకు తమ పరిధిని మెరుగుపరచుకోవడానికి AI సాంకేతికతను చాలా కాలంగా అవలంబించాయి. ఇటీవలి ప్రచార సీజన్‌లో, చాలా కంపెనీలు అత్యంత వ్యక్తిగతీకరించిన ఆడియో సందేశాలు మరియు వీడియోలను అమలు చేయడానికి డిజిటల్ ప్రొడక్షన్ కంపెనీలతో భాగస్వామ్యం కలిగి ఉన్నాయి. ఫలానా అభ్యర్థికి ఓటు వేయమని ప్రజలను ప్రోత్సహిస్తూ మరణించిన పార్టీ నాయకులు చేసిన ప్రకటనలు వీటిలో ఉన్నాయి.
ఈ కంటెంట్ కోసం డిమాండ్ పెరిగేకొద్దీ, ఈ కంపెనీలు మానవ హక్కులు, గోప్యత మరియు పారదర్శకతను గౌరవించే నైతిక AI ఉపయోగం కోసం మార్గదర్శకాలను రూపొందించడానికి ఒక సంకీర్ణాన్ని ఏర్పాటు చేశాయి. ఉదాహరణకు, వారి ప్రమాణాలు ప్రతిపక్ష నాయకులను పరువు తీసే కంటెంట్‌ను నిషేధించాయి మరియు వీడియోలను AI- రూపొందించినట్లు స్పష్టంగా స్టాంప్ చేయవలసి ఉంటుంది.
దక్షిణ భారత టెక్నాలజీ స్టార్టప్ Muonium AI వ్యవస్థాపకుడు మరియు సంకీర్ణ వ్యవస్థాపక సభ్యుడు సెంథిల్ నయగం మాట్లాడుతూ, ఈ చొరవ బాధ్యతాయుతమైన పద్ధతులను ప్రోత్సహించడానికి మరియు ప్రజల విశ్వాసాన్ని పెంపొందించడానికి సహాయపడుతుందని చెప్పారు. “ఉద్యోగి టర్నోవర్, AI వ్యవస్థలలో పక్షపాతం మరియు ఇతర సామాజిక మరియు ఆర్థిక ప్రభావాలతో సహా సమాజంపై AI యొక్క ప్రతికూల ప్రభావాలను అర్థం చేసుకోవడానికి మరియు తగ్గించడానికి నైతిక సంకీర్ణాలు ముందుగానే పని చేయగలవు” అని నయగం చెప్పారు.
కానీ ఉచిత AI సాధనాలు మరింత అందుబాటులోకి వచ్చినందున, ఈ సాంకేతికతను కలిగి ఉన్న లేదా దాని వినియోగాన్ని నియంత్రించే సామర్థ్యం కంపెనీలకు లేదని కొందరు వాదిస్తున్నారు. నిజానికి, ఇటీవలి వైరల్ డీప్‌ఫేక్‌లు నైతిక మార్గదర్శకాలకు కట్టుబడి ఉండవు మరియు ఈ రకమైన కఠోరమైన మోసపూరిత కంటెంట్ హక్కుల సమూహాలను మరియు ఓటర్లను ఒకే విధంగా ఆందోళనకు గురి చేసింది.
చర్చను చర్యగా మార్చండి
ఈ సంవత్సరం, వరల్డ్ ఎకనామిక్ ఫోరమ్ తారుమారు చేయబడిన మరియు తప్పుడు సమాచారాన్ని నేడు ప్రపంచం ఎదుర్కొంటున్న అత్యంత ముఖ్యమైన స్వల్పకాలిక ప్రమాదంగా పేర్కొంది. ఫోరమ్ యొక్క 2024 గ్లోబల్ రిస్క్‌ల నివేదిక ప్రకారం, తప్పుడు సమాచారం యొక్క వ్యాప్తి గురించి ఎక్కువగా ఆందోళన చెందుతున్న దేశాలలో భారతదేశం ఒకటి, మరియు ఉత్పాదక AI యొక్క విస్తరణ పరిస్థితిని మరింత దిగజార్చవచ్చు మరియు సెక్స్ ఉంది.
డీప్‌ఫేక్‌ల వల్ల కలిగే నష్టాల గురించి ప్రభుత్వ ఉద్యోగులకు అవగాహన కల్పించేందుకు పాలసీ కన్సల్టెంట్ ప్రణవ్ ద్వివేదితో కలిసి పని చేయడానికి అనుభవజ్ఞుడైన రాజకీయ వ్యూహకర్త సాగర్ విష్ణోయ్‌ను నివేదిక ప్రేరేపించింది. ఇద్దరు చిన్ననాటి స్నేహితులిద్దరికీ AIతో అనుభవం ఉంది, కానీ ఇటీవలే వారు AI-ఉత్పత్తి సాంకేతికతలు సమాజానికి కలిగించే అపారమైన ముప్పు గురించి మాట్లాడటం ప్రారంభించారు.
“సాంకేతికతలో పురోగతి వాస్తవికత మరియు కల్పనల మధ్య రేఖను అస్పష్టం చేసిన యుగంలో మనం జీవిస్తున్నాము” అని విష్ణోయ్ చెప్పారు. “బహుళ ఆలోచనాత్మక సెషన్ల తర్వాత, మేము శిక్షణ వర్క్‌షాప్‌ని ప్రారంభించాలని నిర్ణయించుకున్నాము.”
ఉత్తరప్రదేశ్‌లోని శ్రావస్తి జిల్లాలో ఏప్రిల్ 5 మరియు 6 తేదీల్లో జరిగిన మొదటి వర్క్‌షాప్‌లో డజన్ల కొద్దీ పోలీసులు, జిల్లా న్యాయమూర్తులు మరియు సీనియర్ అడ్మినిస్ట్రేటివ్ అధికారులతో సహా 150 మందికి పైగా పాల్గొనేవారు. చాలామంది AIకి కొత్తవారు.
ఏప్రిల్ 6, 2024న ఉత్తరప్రదేశ్‌లో జరిగిన డీప్‌ఫేక్ డిటెక్షన్ వర్క్‌షాప్‌లో ప్రణవ్ ద్వివేది పాల్గొనే వారితో మాట్లాడుతున్నారు. రాజకీయ నాయకుడు మనోజ్ తివారీ తెరపై కనిపిస్తాడు.
రెండు మూడు గంటల సెషన్‌లు ఫేక్ న్యూస్ మరియు మానిప్యులేట్ వీడియోల సంక్లిష్టతలను పరిశోధించాయి, వాటి ప్రభావాన్ని వివరించడానికి నిజ జీవిత ఉదాహరణలు మరియు సంభావ్య ఎన్నికల దృశ్యాలను ఉపయోగించాయి. సమూహం తారుమారుని సూచించే దృశ్య మరియు శ్రవణ ఆధారాల కోసం మీడియాను శోధించడం సాధన చేసింది. డీప్‌వేర్ మరియు ఇన్‌విఐడి వంటి సబ్‌స్క్రిప్షన్-ఆధారిత సాధనాలను ఎలా ఉపయోగించాలో కూడా వారికి నేర్పించారు మరియు ద్వివేది మరియు విష్ణోయ్ నమ్మకమైన మూలాధారాలతో సమాచారాన్ని ధృవీకరించడం యొక్క ప్రాముఖ్యతను నొక్కిచెప్పారు.
వర్క్‌షాప్, స్థానిక ప్రభుత్వాల ద్వారా చెల్లించబడుతుంది మరియు ద్వివేది యొక్క సంస్థ ఇన్‌క్లూజివ్ AI ద్వారా హోస్ట్ చేయబడింది, విష్ణోయ్ మరియు ద్వివేది ద్వారా నిర్వహించబడుతుంది మరియు చట్టపరమైన, AI మరియు సైబర్‌ సెక్యూరిటీ నిపుణులు ఉంటారు.
“ప్రపంచవ్యాప్తంగా చాలా తప్పుడు సమాచార వ్యతిరేక ప్రచారాలు జరుగుతున్నాయి, వాటి నుండి నేను మరింత తెలుసుకోవడానికి ప్రయత్నిస్తున్నాను” అని విష్ణోయ్ తాను అనుసరిస్తున్న అనేక AI ప్రాజెక్ట్‌లను ఉటంకిస్తూ చెప్పారు. “వారంతా డిజిటల్ బెదిరింపుల గురించి ప్రజలకు అవగాహన కల్పించడానికి ప్రయత్నిస్తున్నారు.”
ఎన్నికల సమయంలో ప్రభుత్వ అధికారులతో వర్క్‌షాప్‌లను షెడ్యూల్ చేయడం కష్టంగా ఉన్నప్పటికీ, అనేక రాష్ట్రాలు శిక్షణను అభ్యర్థించాయని, తదుపరి కార్యక్రమం ఢిల్లీ సమీపంలోని మహిళల నేతృత్వంలోని బృందంతో షెడ్యూల్ చేయబడిందని బిష్ణోయ్ చెప్పారు. ఆర్థిక మోసాల ప్రమాదం కారణంగా భవిష్యత్తులో జరిగే ఈవెంట్‌లలో పాల్గొనేందుకు ఈ జంట బ్యాంకులను కూడా చేరుకుంటున్నారు.
ఇంతలో, ఇతర సమూహాలు డీప్‌ఫేక్‌లను ఎదుర్కోవడానికి సాధారణ ప్రజలకు సాధనాలను అందించడానికి పని చేస్తున్నాయి.
ఓటర్లను శక్తివంతం చేయండి
గత నెలలో, మీడియా, సాంకేతికత మరియు వాస్తవ-తనిఖీ సంస్థల సంకీర్ణమైన తప్పుడు సమాచార పోరాట కూటమి, డీప్‌ఫేక్ అనాలిసిస్ యూనిట్ (DAU)ను ప్రారంభించింది, ఇది ఎవరైనా మీడియాను WhatsApp నంబర్‌కి ఫార్వార్డ్ చేయడానికి మరియు నేను ప్రారంభించిన నిపుణులచే సమీక్షించబడటానికి అనుమతిస్తుంది అది. ఇది నిజం.
ఈ చొరవ ఇంగ్లీష్, హిందీ, తమిళం మరియు తెలుగుతో సహా బహుళ భాషలకు మద్దతు ఇస్తుంది మరియు విద్యావేత్తలు, పరిశోధకులు, సాంకేతిక ప్లాట్‌ఫారమ్‌లు మరియు వాస్తవ-చెకర్ల యొక్క విభిన్న నెట్‌వర్క్‌ను ప్రభావితం చేస్తుంది. నివేదికలు తక్షణమే కాదు, కానీ వినియోగదారులు వేచి ఉన్నప్పుడు, వారు ఫెడరేషన్ వెబ్‌సైట్‌లో గత సమీక్షలను వీక్షించవచ్చు లేదా నవీకరణల కోసం DAU WhatsApp ఛానెల్‌లో చేరవచ్చు.
లాంచ్‌లో, జర్నలిస్ట్ మరియు DAU ప్రెసిడెంట్ పంపోష్ రైనా ఈ ప్రాజెక్ట్‌ను “వాస్తవిక మరియు సింథటిక్ మీడియా మధ్య తేడాను గుర్తించడంలో ప్రజలకు సహాయపడే మొదటి చిట్కా” మరియు “ప్రజా సమస్యల గురించి ప్రజలకు అవగాహన కల్పించడానికి మేము తప్పుదారి పట్టించే ఆడియో మరియు వీడియోపై దృష్టి పెడతాము” అని అభివర్ణించారు .” ఇది ప్రాముఖ్యతను కలిగి ఉంది మరియు వాస్తవ ప్రపంచానికి హాని కలిగించవచ్చు. ”
నవంబర్ 5న ఎన్నికలు జరగనున్న యునైటెడ్ స్టేట్స్‌తో సహా ప్రపంచవ్యాప్తంగా ఆందోళనలు ప్రతిధ్వనించాయి.
పోలరైజేషన్ రీసెర్చ్ ల్యాబ్ నుండి ఇటీవలి నివేదిక ప్రకారం, 49.8% మంది అమెరికన్లు AI ఎన్నికల భద్రతపై ప్రతికూల ప్రభావాన్ని చూపుతుందని, 65.1% మంది AI వ్యక్తిగత గోప్యతను ఉల్లంఘిస్తుందని మరియు 50.1% మంది AI వినియోగం వల్ల ఎన్నికలు తగ్గుతాయని అంచనా వేశారు. పౌర .
రాబోయే వారాలు మరియు నెలల్లో, నష్టాన్ని ఎలా తగ్గించాలి మరియు మంచి కోసం AIని ఎలా ఉపయోగించాలి అనే దానిపై భారతదేశం పాఠాలను అందించవచ్చు.
“U.S. ఎన్నికల ఆలస్యమైన తేదీ అంటే అమెరికన్లు విదేశాల్లో ఒక సంవత్సరం అధ్యయనం చేయడం వల్ల ప్రయోజనం పొందుతారు” అని ఆస్పెన్ ఇన్స్టిట్యూట్‌కు చెందిన లాసన్ చెప్పారు.
