AIకి సొంత తెలివి! .. మన కంట్రోల్ లో ఉండక పోవచ్చు.. అడ్వాన్స్డ్ ఏఐ అభివృద్ధి నిలిపివేయాలి: ఆంత్రోపిక్

• తనకుతానుగా మెరుగవుతోంది, మన 
• కంట్రోల్​లో లేకుండా పోవచ్చు: ఆంత్రోపిక్
• ఏఐ సెల్ఫ్​ఇంప్రూవ్​మెంట్​తో 
• లాభాలతోపాటు నష్టాలూ ఉంటయ్ 
• అందుకే అడ్వాన్స్​డ్​ ఏఐ అభివృద్ధిని 
• ‘తాత్కాలికంగా ఆపేయాలి’  
• ఏఐ కంపెనీలు, ప్రభుత్వాలు కలిసిరావాలని పిలుపు   

వాషింగ్టన్: ఆర్టిఫిషియల్ ఇంటెలిజెన్స్(ఏఐ) తననుతాను మరింత మెరుగ్గా నిర్మించుకోవడం ప్రారంభించి, తన తదుపరి తరం రూపాన్ని (సక్సెసర్) సృష్టించగలదని అమెరికన్ ఏఐ కంపెనీ ‘ఆంత్రోపిక్’ వెల్లడించింది. ఏఐ పూర్తి స్థాయిలో స్వీయ మెరుగుదల సామర్థ్యాన్ని పొందితే గనక.. అది మానవుల నియంత్రణలో లేకుండా పోతుందని హెచ్చరించింది. ఇలా ఏఐ సెల్ఫ్​ఇంప్రూవ్ మెంట్ జరిగితే అనేక ప్రయోజనాలతోపాటు ప్రమాదాలూ ఉంటాయని ఆందోళన వ్యక్తం చేసింది. 

మానవ జోక్యం లేకుండా ఏఐ తనను తాను మెరుగుపర్చుకోగలిగే ‘రికర్సివ్ సెల్ఫ్​ఇంప్రూవ్ మెంట్’ హద్దులు మీరకుండా ఉండాలంటే అడ్వాన్స్డ్ ఏఐ అభివృద్ధిని తాత్కాలికంగా నిలిపివేయడానికి అన్ని ఏఐ కంపెనీలు, ప్రభుత్వాలు కలిసి రావాలని ఆంత్రోపిక్ పిలుపునిచ్చింది. తాము ఏఐ అభివృద్ధి పనులను రోజురోజుకూ ఏఐ వ్యవస్థలకే ఎక్కువగా అప్పగిస్తున్నామని, తగినంత కంప్యూట్ శక్తి ఉంటే ఇది భవిష్యత్తులో ‘ఒక ఏఐ వ్యవస్థ పూర్తిగా స్వయంప్రతిపత్తితో తన తదుపరి రూపాన్ని సొంతంగా డిజైన్ చేసి, అభివృద్ధి చేయగల’ స్థితికి దారితీసే అవకాశాలు ఉన్నాయని ఆ కంపెనీ తెలిపింది. 

ఏఐ కంపెనీలలో భిన్నంగా ఉండే ఆంత్రోపిక్, తరచుగా కృత్రిమ మేధ వేగవంతమైన అభివృద్ధి వల్ల కలిగే నష్టాల గురించి హెచ్చరిస్తోంది. సాంకేతిక పోకడలను బట్టి చూస్తే రాబోయే సంవత్సరాల్లో ఏఐ వ్యవస్థలు మరింత సమర్థంగా మారబోతున్నాయని ఆ కంపెనీ తన తాజా నివేదికలో పేర్కొంది. ‘‘తనను తాను నిర్మించుకోగల ఏఐ అనేది సాంకేతిక చరిత్రలో ఒక ప్రధానమైన అభివృద్ధి అవుతుంది. అయినప్పటికీ, ఏఐ వ్యవస్థలు తమ తదుపరి రూపాలను పూర్తిగా తామే నిర్మించుకోగలిగితే, మనం వాటిని సురక్షితంగా ఉంచే విధానాలు, వాటిని పర్యవేక్షించే పద్ధతులు, వాటి ప్రవర్తనను మలిచే విధానాలు అన్నీ చాలా ముఖ్యమైనవిగా మారతాయి’’ అని హెచ్చరించింది.

పాజ్ చేసేందుకు వీలవుతుందా?

ఏఐ ‘రికర్సివ్ సెల్ఫ్​ఇంప్రూవ్ మెంట్’ను ఆపడం కోసం అడ్వాన్స్డ్ ఏఐ అభివృద్ధికి తాత్కాలిక విరామం ఇవ్వాలన్న ఆంత్రోపిక్ వాదనలపై ఏఐ నిపుణుల నుంచి భిన్నమైన వాదనలు వినిపిస్తున్నాయి. భవిష్యత్తు ఏఐ వ్యవస్థలను నడిపించే కోడ్‌‌‌‌ను ఏఐ ఎక్కువగా రాస్తున్నందున.. సామర్థ్యాన్ని నిర్మించడం నుంచి దానిని పాలించడం (గవర్న్) వైపు ఏఐ పనితీరు మారుతుందని ఫ్యూచర్ షిఫ్ట్ లాబ్స్ కో-ఫౌండర్ సాగర్ విష్ణోయ్ నొక్కి చెప్పారు. ‘‘ఏఐ స్వీయ-మెరుగుదల ఆవిష్కరణలను గణనీయంగా వేగవంతం చేయగలదు. 

కానీ ఇది పర్యవేక్షణ, భద్రత, జవాబుదారీతనం వంటి ముఖ్యమైన ప్రశ్నలను కూడా లేవనెత్తుతుంది. మరింత సమర్థంగా మారుతున్న ఈ ఏఐ వ్యవస్థలు మానవ ప్రాధాన్యతలకు అనుగుణంగా ఉండేలా చూసుకోవడమే అసలైన పరీక్ష” అని ఆయన అభిప్రాయపడ్డారు.  అయితే, ఇది బహుశా అన్నింటికంటే కష్టమైన పని కావచ్చునని ఏఐఇన్‌‌‌‌స్యూర్డ్ సీటీఓ డాక్టర్ శ్రీనివాస్ పద్మనాభుని చెప్పారు. ‘‘సిద్ధాంతపరంగా బాగానే అనిపిస్తుంది. కానీ ఆచరణలో కష్టం. 

తాత్కాలికంగా నిలిపివేయడానికి పునాది వంటి మోడల్స్ (ఫౌండేషనల్ మోడల్స్) నిర్మించే వారందరినీ ఒప్పించడం చాలా కష్టం. ఎందుకంటే వెనుకబడిపోతామనే ఒత్తిడిని ప్రతి ఒక్కరూ ఫీల్ అవుతారు’’ అని ఆయన అన్నారు. మరోవైపు, ఏఐ తనకుతానుగా నిర్మించుకుని, కంట్రోల్ తప్పిపోయేంత భయంకరమైన పరిస్థితి వచ్చే అవకాశాలు లేవని కూడా పలువురు ఏఐ ఎక్స్ పర్ట్​లు భావిస్తున్నారు. 

షార్ట్‌‌‌‌హిల్స్ ఏఐ  కో-ఫౌండర్, ప్రెసిడెంట్ పవన్ ప్రభాత్ మాట్లాడుతూ.. ‘‘ఇది ద మ్యాట్రిక్స్ లేదా టెర్మినేటర్ వంటి పరిస్థితికి దారితీస్తుందని నేను భయపడటం లేదు. ఎందుకంటే ఏఐ తన ఉనికికి ముప్పు తెచ్చిపెడితే మానవులు ఎప్పుడైనా ప్లగ్‌‌‌‌ను పీకేయగలరు” అని అభిప్రాయపడ్డారు. ఈ నేపథ్యంలో మొత్తంగా ఏఐ ‘రికర్సివ్ సెల్ఫ్​ఇంప్రూవ్ మెంట్’కు తాత్కాలికంగా అడ్డుకట్ట వేయడం ఎలా? అన్నదానిపై పూర్తి స్థాయి అధ్యయనం చేసేందుకు ఆంత్రోపిక్ ఇన్ స్టిట్యూట్ సిద్ధమవుతున్నట్టు చెప్తున్నారు.