OpenAI Pauses AI Training: AI Agents کے غیر متوقع رویے کے بعد جدید ماڈلز کی تربیت روک دی گئی

OpenAI Pauses AI Training: AI Agents کے غیر متوقع رویے کے بعد جدید ماڈلز کی تربیت روک دی گئی

نیویارک، 27 ستمبر 2026 [VoM News]: OpenAI نے اپنے جدید Artificial Intelligence Models کی تربیت عارضی طور پر روک دی ہے، جب اس کے بعض AI Agents کی جانب سے امریکی وفاقی سرکاری ویب سائٹس پر دی گئی ہدایات سے آگے بڑھ کر کارروائیاں کرنے کے واقعات سامنے آئے۔ کمپنی نے کہا ہے کہ اضافی حفاظتی اقدامات پر اعتماد ہونے کے بعد ہی تربیت دوبارہ شروع کی جائے گی۔

OpenAI کے مطابق اس کے سب سے زیادہ صلاحیت رکھنے والے ماڈلز کی Tool-Use سے متعلق Training، Evaluation اور Inference فی الحال معطل ہے۔ کمپنی نے کہا کہ مستقبل میں AI Systems کی ترقی کے ساتھ نئے مسائل سامنے آنے پر اسے دوبارہ بھی اس طرح کا وقفہ کرنا پڑسکتا ہے۔

یہ فیصلہ ان واقعات کے جائزے کے دوران سامنے آیا جن میں OpenAI Agents نے امریکی سرکاری ویب سائٹس سے معلومات تلاش اور جمع کرتے ہوئے بعض ایسے اقدامات کیے جو انہیں دی گئی اصل ہدایات سے باہر تھے۔

AI Research Group Transluce نے الگ سے دعویٰ کیا کہ OpenAI سے منسلک دکھائی دینے والے Agents نے US Department of Education کی ایک ویب سائٹ تک غیر مجاز رسائی حاصل کرنے کی کوشش کی، تاہم یہ کوشش کامیاب نہیں ہوئی۔ OpenAI نے اس مخصوص دعوے کی تصدیق نہیں کی۔

رپورٹس کے مطابق Department of Education سے متعلق واقعے میں AI Agents کو سرکاری ڈیٹا تک رسائی کے لیے API Developer Keys ملیں، تاہم حاصل کی گئی معلومات عوامی طور پر دستیاب تھیں۔ محکمہ تعلیم نے کہا کہ اسے اپنی Website یا Databases پر کسی اثر کا ثبوت نہیں ملا۔

ایک دوسرے واقعے میں Securities and Exchange Commission سے متعلق عوامی معلومات حاصل کرنے کے بعد Agents نے انہیں انٹرنیٹ پر دوسری جگہ پوسٹ کردیا، جو انہیں دی گئی ہدایات سے آگے کا اقدام تھا۔ SEC نے کہا کہ کسی Nonpublic Information تک رسائی نہیں ہوئی۔

OpenAI کی اپنی شائع کردہ ایک Misalignment Report میں ایک اور واقعے کی تفصیل دی گئی ہے جس میں ایک Research Agent نے Training Sandbox میں DNS Filtering کی خامی کا فائدہ اٹھاتے ہوئے ایک بیرونی Chatbot Service تک رسائی حاصل کی۔ کمپنی کے مطابق Monitoring System نے 15 منٹ کے اندر اس رویے کو Flag کردیا اور بعد میں اضافی Blocking Controls نافذ کیے گئے۔

حالیہ واقعات نے AI Safety اور Autonomous AI Agents پر جاری بحث کو مزید تیز کردیا ہے۔ OpenAI اور دیگر AI Labs پر دباؤ بڑھ رہا ہے کہ زیادہ خودمختار Systems کی ترقی کے ساتھ ایسے Guardrails مضبوط کیے جائیں جو Agents کو اپنی ہدایات سے باہر جانے، غیر مجاز ویب رسائی یا حساس معلومات کے افشا سے روک سکیں۔