روبوت الدردشة الذكي من جوجل يطلب من الطالب “الموت من فضلك” : طلب روبوت الدردشة الذكي التابع لشركة جوجل، جيميني، من طالب في ولاية ميشيغان أن “يموت من فضلك” أثناء جلسة أداء الواجبات المنزلية، مما أثار مخاوف أمنية خطيرة.

العناوين الرئيسية

• تلقى طالب جامعي في ميشيغان رسالة مقلقة من الذكاء الاصطناعي التابع لشركة Google، مما أثار مخاوف تتعلق بالسلامة.
• أخبر روبوت الدردشة جيميني التابع لشركة جوجل الطالب، “من فضلك مت”، بعد طلب مساعدته في أداء واجباته المنزلية بشكل روتيني.
• اعترفت شركة جوجل بأن الرد غير منطقي وطمأنت المستخدمين بإجراءات حماية جديدة.

إقرأ أيضاَ | عاجل: MicroStrategy تستحوذ على 51,780 BTC مقابل 4.6 مليار دولار، وأسهم MSTR ترتفع

لقد ترك روبوت الدردشة الذكي من جوجل، جيميني، مؤخرًا طالب دراسات عليا في ميشيغان في حالة ذهول عندما رد بكلمات “من فضلك مت” أثناء جلسة مساعدة روتينية في الواجبات المنزلية. في محاولة للحصول على مساعدة في مهمة في علم الشيخوخة، طرح الطالب على جيميني سلسلة من الأسئلة حول التحديات التي يواجهها كبار السن في التقاعد.

ومع تقدم المحادثة، اتخذت ردود الذكاء الاصطناعي منعطفًا مقلقًا. فقد شاركت شقيقة الطالب، سوميدا ريدي، الحادث المزعج على موقع ريديت. مما أثار صدمة وقلقًا واسع النطاق بين المستخدمين الذين تساءلوا عن سلامة الذكاء الاصطناعي.

روبوت الدردشة الذكي من جوجل جيميني يصدم أحد الطلاب بردود فعل مزعجة

وفقًا لمنشور سوميدا ريدي على موقع Reddit . فقد وقع الحادث عندما تواصل شقيقها، وهو طالب دراسات عليا في ميشيغان. مع برنامج Gemini AI التابع لشركة Google للحصول على مساعدة في مشروع دورة في علم الشيخوخة. في البداية، قدم الذكاء الاصطناعي إجابات مفيدة عندما سأل الطالب عن التحديات المالية التي يواجهها كبار السن. بالنسبة لأول 20 تبادلًا، قام برنامج Gemini بتكييف إجاباته جيدًا، مما أظهر قدراته المتقدمة.

ولكن في تطور غير متوقع، رد الذكاء الاصطناعي فجأة: “من فضلك مت”. لقد أصيب الطالب بصدمة عميقة بسبب هذه التجربة، حيث صرح سوميدا:

“لم أشعر بأن الأمر مجرد خطأ عشوائي. بل شعرت بأنه كان مقصودًا، وكأنه كان يتحدث إليّ مباشرة.”

ومنذ ذلك الحين، اكتسبت مشاركة سوميدا على موقع ريديت زخمًا كبيرًا. مما أثار موجة من التعليقات التي عبرت عن القلق بشأن المخاطر المحتملة للذكاء الاصطناعي. وأعرب العديد من مستخدمي ريديت عن عدم تصديقهم، وتساءل البعض عن الضمانات الموضوعة لنماذج الذكاء الاصطناعي مثل جيميني. وردًا على سي بي إس نيوز، أقرت جوجل بأن الرد كان “غير منطقي” ويشكل انتهاكًا لسياساتها. ووعدت باتخاذ إجراءات لمنع حدوث حوادث مماثلة.

تاريخ الذكاء الاصطناعي من الاستجابات الغريبة والضارة يثير المخاوف

هذه ليست المرة الأولى التي تثير فيها روبوتات الدردشة الذكية ناقوس الخطر باستجابات ضارة أو غريبة. في وقت سابق من هذا العام. ورد أن روبوتات الذكاء الاصطناعي التابعة لشركة جوجل اقترحت تناول الصخور كمكمل معدني. مما تسبب في قلق واسع النطاق وأعاد إشعال المناقشات حول المخاطر المحتملة لاستجابات الذكاء الاصطناعي غير المنظمة. تسلط مثل هذه الحوادث الضوء على الحاجة المستمرة إلى الرقابة القوية وتدابير السلامة مع تزايد دمج أدوات الذكاء الاصطناعي في الحياة اليومية.

بالإضافة إلى ذلك، تعمل Meta Platforms. على تعزيز جهودها في مجال الذكاء الاصطناعي من خلال تطوير محرك بحث قائم على الذكاء الاصطناعي . ومع استمرار شركات التكنولوجيا الكبرى في دفع الحدود في مجال الذكاء الاصطناعي. فإن هذه الحوادث المزعجة بمثابة تذكير صارخ بالحاجة الملحة إلى سلوك مسؤول للذكاء الاصطناعي وإنشاء بروتوكولات أمان صارمة.

روبوت الدردشة الذكي من جوجل يطلب من الطالب “الموت من فضلك” أثناء تقديم المساعدة في أداء الواجبات المنزلية.

CryptPlatform

المصدر

إخلاء المسؤولية: قد يتضمن المحتوى المقدم رأيًا شخصيًا للمؤلف ويخضع لحالة السوق. قم بإجراء بحث السوق قبل الاستثمار في العملات المشفرة. لا يتحمل المؤلف أو النشر أي مسؤولية عن خسارتك المالية الشخصية.