خبروں پر واپس جائیں۔
پروڈکٹAI Understanding بریفنگ

طویل AI گفتگو سات معروف چیٹ بوٹس میں غلط معلومات کی کمزوریوں کو ظاہر کرتی ہے

یونیورسٹی آف ایریزونا کے محققین نے سات مختلف جنریٹو AI بڑے زبان کے ماڈلز کا ان کی غلطی، قائل کرنے کی صلاحیت اور طویل گفتگو کے دوران درست ہونے کی صلاحیت کا جائزہ لیا۔ ان کی تحقیق AI ماڈلز میں ایسی اندرونی حدود ظاہر کرتی ہے جو ایک بار کے تعاملات میں نظر انداز ہو سکتی ہیں۔

4 min readRead the linked source
Source-provided image accompanying Long AI conversations reveal misinformation vulnerabilities across seven leading chatbots
ماخذ حوالہماخذ ریکارڈ شدہ
پبلشر
techxplore.com
ماخذ لنک
techxplore.comhttps://techxplore.com/news/2026-09-ai-conversations-reveal-misinformation-vulnerabilities.html
ماخذ کی قسم
منسلک ذریعہ - بنیادی ماخذ کی حیثیت قائم نہیں کی گئی ہے۔
سیاق و سباقاسے 60 سیکنڈ میں سمجھیں۔

یہاں سے شروع کریں۔

کلیدی شرائط

جنریٹو اے آئی
AI سسٹم جو نیا مواد تیار کرتے ہیں جیسے کہ متن، تصاویر، آڈیو، ویڈیو یا کوڈ۔
اپنے آپ کو جانچیں۔AI کیا ہے؟ کوئز

کیا ہوا؟

Researchers assessed seven large language models for fallibility persuasability and correctability during lengthy conversations.

Researchers assessed seven large language models for fallibility persuasability and correctability during lengthy conversations.

The study involved lengthy conversations with the AI models to assess their fallibility persuasability and correctability.

The researchers tested the models' ability to provide accurate information and to correct their own mistakes.

The study aimed to identify the limitations of the AI models and to develop diagnostic tools to prevent errors.

ماخذ کی تفصیلات: techxplore.com ↗

یہ کیوں اہمیت رکھتا ہے۔

The study reveals intrinsic limitations in AI models that might go undetected during one-off interactions highlighting the need for careful human engagement and the danger of blind reliance on AI.

The study highlights the need for careful human engagement and the danger of blind reliance on AI.

The researchers identified four different ways the models failed to affirm factual information including oscillating between accepting and rejecting the same false statement.

The study underscores the importance of understanding the anatomy and physiology of AI as well as its pathologies to diagnose and prevent errors.

The study's findings have significant implications for the development and deployment of AI systems in various fields.

Interactive Mechanism

انٹرایکٹو میکانزم: یہ اصل میں کیسے کام کرتا ہے۔

اس ترقی کے پیچھے بنیادی ٹیکنالوجی کو انٹرایکٹو طریقے سے دریافت کریں۔

Agent Lifecycle Stage:
1
User Intent & Planning: "Audit customer refund request #4092 and settle payment."
2
Tool Calling: Emits structured JSON call crm_get_transaction(id='4092').
3
Guardrail & Verification:🛡️ Paused: High-value action requires human operator sign-off.
4
Final Settlement: Refund recorded, email receipt dispatched, and audit log stored.
Core takeaway: An AI agent is not just a language model—it is a closed loop of planning, tool invocation, and environment feedback. Production systems require self-healing retries and strict human approval guardrails.
انٹرایکٹو تصور چیک+10 Points
What is AI? Quiz

A route planner searches possible journeys using explicit rules. What does this illustrate about AI?

آگے کیا دیکھنا ہے۔

The study's findings have implications for the development and deployment of AI systems particularly in high-stakes settings.

The study's findings have implications for the development and deployment of AI systems particularly in high-stakes settings.

The researchers are developing diagnostic tools for open AI models as part of their AI Pathology Lab.

The study highlights the need for careful human engagement and the danger of blind reliance on AI.

The study underscores the importance of understanding the anatomy and physiology of AI as well as its pathologies to diagnose and prevent errors.

متعلقہ گائیڈز اور کوئزز

AI کیا ہے؟ChatGPT اور ایل ایل ایماے آئی اخلاقیاتاے آئی ایجنٹسAI ماڈلز کی وضاحتٹرانسفارمرزاے آئی کا مستقبلاے آئی ٹریننگPrompt Engineeringآپ جو جانتے ہیں اس کی جانچ کریں - ایک مفت AI کوئز آزمائیں۔ہماری لغت میں AI کی اصطلاح دیکھیںاے آئی ماڈل ریلیز ٹریکر پر عمل کریں۔
یہ مفید پایا؟