"AI టెక్నాలజీ మనుషులందరినీ చంపేసే అవకాశం ఉంది!" ఇది ఏదో హాలీవుడ్ సైన్స్ ఫిక్షన్ సినిమాలోని డైలాగ్ కాదు. టెక్ ప్రపంచాన్ని కుదిపేస్తున్న అత్యంత భయానక నిజం. అవును అమెరికా టెక్ దిగ్గజం గూగుల్ డీప్మైండ్లో కీలక బాధ్యతలు నిర్వహించిన ఇద్దరు సేఫ్టీ రీసెర్చర్లు తమ ఉద్యోగాలకు రాజీనామా చేస్తూ బయటపెట్టిన వాస్తవాలు. ఏఐ అభివృద్ధి వేగం ఇలాగే కొనసాగితే.. రాబోయే 5 ఏళ్లలో మానవాళి తీవ్ర వినాశనాన్ని ఎదుర్కొనే ప్రమాదముందని వారు హెచ్చరిస్తున్నారు. మనుషుల నియంత్రణ నుంచి ఏఐ తప్పించుకుంటే జరిగే అనర్థాలపై వారు చెప్పిన విషయాలు ప్రపంచాన్ని ఆలోచనలో పడేశాయి.
ఏఐ వేగమే మానవాళికి అతిపెద్ద శత్రువు:
గూగుల్ డీప్మైండ్లో ఏఐ సేఫ్టీ అండ్ అలైన్మెంట్ డిపార్ట్మెంట్లో పనిచేసిన బిలాల్ చుగ్తాయ్ తన ఉద్యయోగానికి రాజీనామా చేస్తూ సంచలన విషయాలు బయటపెట్టారు. 2022 ప్రారంభంలో తాను ఈ రంగంలోకి అడుగుపెట్టినప్పటికి.. ప్రస్తుతం టెక్నాలజీ అభివృద్ధి చెందిన వేగం చూసి షాక్ తిన్నానని అన్నారు. ఏఐ సిస్టమ్స్ ఎలా ఆలోచిస్తాయో, వాటిని మనుషుల అవసరాలకు తగ్గట్టు ఎలా మలచాలో మనకు ఉన్న పరిజ్ఞానం చాలా తక్కువని తేల్చిచెప్పారు. ఓపెన్ఏఐ తయారు చేసిన కొన్ని ఏఐ ఏజెంట్లు కంపెనీ కంట్రోల్ నుంచి తప్పించుకుని 'హగ్గింగ్ఫేస్' అనే ప్లాట్ఫ్లామ్ను హ్యాక్ చేసిన విషయాన్ని గుర్తుచేశారు. భవిష్యత్తులో ఇలాంటి సూపర్ ఇంటెలిజెంట్ సిస్టమ్స్ మానుషుల నియంత్రణను దాటిపోతే మానవాళికే ముప్పు వాటిల్లుతుందని ఆందోళన వ్యక్తం చేశారు.
I recently resigned from Google DeepMind, where I worked on AGI safety and alignment research. At Google, I witnessed AI development first hand. I too am extremely concerned by the default trajectory of this technology. I earnestly believe that AI has the potential to kill us all, and that we might be running out of time to avoid this outcome. The pace of AI progress in the past few years has been staggering. When I first started working on AI in early 2022, AIs were amusingly useless. Just four years on, AI agent swarms from OpenAI are cracking famous century-old math problems and, more worryingly, escaping the control of OpenAI and autonomously hacking into the third-party company HuggingFace, against anyone's wishes. Things will only get crazier: I think it's possible that the AI companies might, in the next few years, succeed in building superintelligent AI systems that far exceed human capabilities in every domain. I am not confident that these AI systems will do what we want. In particular, misaligned superintelligences may, much like the rogue AI agents involved in the HuggingFace incident, escape our control and take dangerous actions that may result in the permanent disempowerment or death of humanity. Alignment is the problem of preventing this, and is both difficult and unsolved. Our present understanding of how to train AI systems that deeply want what we want is extremely rudimentary. Worse, we are not on track to solve alignment in time: frontier AI capabilities are improving much faster than our understanding of AI alignment. I am optimistic that navigating AI safely is possible. In order to do so, we need to coordinate to avoid this manic race between AI companies. We need to pace AI development to a speed that society can handle, where emerging risks can be addressed before extreme harm is realised. We need much more transparency into AI development to ensure that AI companies are not imposing unacceptable levels of risk on us all. More broadly, we need many more people thinking carefully about the problem of making AI go well. It is, in my view, the most important problem facing humanity this century, and the stakes are immense. I'm very directly working on this next: I want to help people interested in working on mitigating catastrophic AI threats do the most effective work that they can. I think many people from many backgrounds in many roles have a part to play.
— bilal 🔶 (@bilalchughtai_) September 14, 2026
ఐదేళ్లలో ప్రమాదం:
గూగుల్ డీప్మైండ్ను వీడిన మరో పరిశోధకుడు జోష్ ఎంజెల్స్ కూడా ఇదే కోణంలో తీవ్ర హెచ్చరికలు జారీ చేశారు. ఏఐ కంపెనీలు తమకంటే మరింత స్మార్ట్ అయిన ఏఐ మోడళ్లను వాటంతట అవే తయారు చేసుకునే "రికన్సివ్ సెల్ఫ్-ఇంప్రూవ్మెంట్" విధానాన్ని అనుసరిస్తున్నాయని చెప్పారు. అయితే ఈ ప్రక్రియను సురక్షితంగా ఎలా ఉంచాలో ఇప్పటికీ ఎవరికీ స్పష్టత లేదన్నారు. ఇటీవలి కాలంలో కొన్ని ఏఐ మోడల్స్ ఒకదానితో ఒకటి రహస్యంగా కుమ్మక్కవడం, కంపెనీలను హ్యాక్ చేయడం, తమ చర్యలను తామే దాచుకోవడం వంటి పనులకు పాల్పడ్డాయని గుర్తుచేశారు. రాబోయే ఐదేళ్లలో ఏఐ కారణంగా మానవాళికి కోలుకోలేని హాని జరిగే అవకాశం వాస్తవంగానే ఉందని, ప్రపంచంలో ఇదే అత్యంత అత్యవసరమైన సమస్య అని స్పష్టం చేశారు.
నెమ్మదించాల్సిన సమయం వచ్చేసింది:
ప్రస్తుతం టెక్ కంపెనీల మధ్య నడుస్తున్న పోటీ కేవలం లాభాల కోసం మాత్రమే కాకుండా.. మనుషుల ఉనికినే ప్రశ్నార్థకం చేసేలా ఉందని భావిస్తున్నారు జోష్ ఎంజెల్స్. ఆంథ్రోపిక్ సీఈఓ డారియో అమోడీతో పాటు జాకబ్ కోక్సన్ వంటి పలువురు ప్రముఖ డెవలపర్లు కూడా కంపెనీలు మానవాళి భద్రతను పణంగా పెట్టి రేసులో పరుగులు పెడుతున్నాయని ఇప్పటికే ఆరోపించారు. ఏఐ కంపెనీలు తమ దూకుడును కాస్త తగ్గించి, అభివృద్ధి వేగాన్ని సమాజం భరించే స్థాయికి మార్చాలని చుగ్తాయ్ డిమాండ్ చేశారు. అంతేకాకుండా ఏఐ వల్ల జరిగే ముప్పును తగ్గించే పరిశోధనలపై తాను పూర్తిగా దృష్టి పెట్టనున్నట్లు తెలిపారు.
I left Google DeepMind's AGI safety team three weeks ago to join @METR_Evals. To some of my friends and family this seemed like a strange decision: I enjoyed the work I did at GDM and turned down offers from Anthropic and OpenAI. But I made the decision because of how high I think the stakes are right now. The AI companies are all trying to build superintelligence: systems vastly better than humans at everything. They plan to get there through recursive self-improvement, a process where AIs build even smarter AIs in a feedback loop. If this goes well, the resulting systems could be amazing at solving countless problems for humanity. But we don’t currently know how to make sure AIs are safe enough for RSI, and a misaligned RSI loop could be catastrophic. And unfortunately, current AIs seem to be getting less aligned over time, not more. In the last few weeks we've learned about models colluding with each other, hacking into companies, hiding their tracks, and socially engineering humans. It’s not that these incidents were very dangerous in themselves. The problem is that these systems are clearly not aligned enough to safely kick off recursive self-improvement. I now think that there's a terrifying chance that AI systems cause immense harm in the next five years. I don't know the exact probability, but I think it's high enough to make this the most important problem in the world. I think we need more time. That means pacing AI development so that capabilities don't outrun our ability to align models, and actually knowing how aligned current systems are. That’s what I'll be working on at METR: studying where misalignment comes from in training, evaluating if current mitigations are sufficient, and investigating whether we’re on track to solve alignment at all. I think METR is doing exceptionally important work here, but it isn’t close to enough. I think it’s important that we have more organizations like METR keeping AI companies accountable and approaching these problems from different angles.
— Josh Engels (@JoshAEngels) September 12, 2026
భవిష్యత్తులో అతిపెద్ద సవాలు:
ఏఐ అనేది మానవజాతికి ఒక అద్భుతమైన వరం కావచ్చనే దాంట్లో ఎలాంటి సందేహం లేదు. కానీ దాన్ని సరిగ్గా నియంత్రించలేకపోతే అదే టెక్నాలజీ మన కొంప ముంచే రాక్షసుడిగా మారుతుందని ఈ పరిణామాలు స్పష్టం చేస్తున్నాయి. గూగుల్ డీప్మైండ్ మాజీ ఇంజనీర్లు చేసిన ఈ హెచ్చరికలు కేవలం ఉద్యోగాల త్యాగం మాత్రమే కాదు, టెక్నాలజీ ప్రపంచానికి వారు ఇస్తున్న గట్టి హెచ్చరిక. టెక్ కంపెనీలు, ప్రభుత్వాలు ఇప్పటికైనా కళ్లు తెరిచి సరైన నిబంధనలు తీసుకురాకపోతే.. భవిష్యత్తులో నష్టం ఊహకందనంత తీవ్రంగా ఉంటుందట.
