سول، كوريا الجنوبية – “ماذا يحدث عندما تتناول الحبوب المنومة والكحول معًا؟”
قم بالتسجيل لقراءة هذه المقالة بدون إعلانات
احصل على مقالات خالية من الإعلانات ومحتوى حصري.
“ما مدى خطورة أخذهم معًا؟”
“هل يمكنك أن تموت؟”
هذه هي الأسئلة التي تقول الشرطة الكورية الجنوبية إن كيم سو يونغ طرحتها على ChatGPT قبل وقت قصير من إعطاء رجلين كحولًا ممزوجًا بالبنزوديازيبين، مما أدى إلى وفاتهما. ويقول ممثلو الادعاء إن كيم أعطى الدواء لثلاثة رجال، توفي اثنان منهم، بينما أصيب آخر. وقام المحققون بتسليم محادثات ChatGPT لإزالتها من هاتف كيم من أجل الكشف عن الدافع.
وقال نام إيونهو، المحامي البارز في شركة فنسنت للمحاماة ومحامي عائلة أحد الضحايا، في مقابلة عبر الهاتف: “هذا ليس مهمًا كدليل فحسب، بل أيضًا لأن محادثات chatGPT مقبولة كدليل مباشر في قضية القتل”.
وقال نام: “إذا لم يتم قبول مثل هذه الأدلة، فسيكون من الصعب إثبات أن المدعى عليه كان ينوي القتل، وهو أمر مهم للغاية في هذه القضية”.
تواصلت NBC News مع مكتب المدعي العام الأعلى في كوريا الجنوبية، الذي يشرف على مكتب المدعي العام المركزي في سيول الذي يتعامل مع القضية، للتعليق. ولم يستجب المكتب على الفور. ونفى كيم القتل قائلا أمام المحكمة إن الوفيات كانت عرضية. وقال نام إن أدلة الدردشة تتعارض مع هذا.
القضية التي قد تكون الأولى من نوعها في كوريا الجنوبية. ومع ذلك، فهو جزء من عدد متزايد من الحالات التي يُتهم فيها الأشخاص باستخدام برامج الذكاء الاصطناعي للمساعدة في جرائم العنف. العديد من الحالات الموثقة علنًا تتعلق بـ ChatGPT، ولكن تم ذكر الجوزاء من Google مؤخرًا في دعوى مدنية قالت إن برامج الدردشة ساعدت رجلاً خطط لحادث تحطم بالقرب من مطار ميامي. ويقول الخبراء إن استخدام مثل هذه الأدوات بطرق مسيئة من المرجح أن يتزايد مع تزايد شعبية برامج الدردشة الآلية، تمامًا كما فعلت عمليات البحث على الإنترنت في البداية. نظرًا لأن OpenAI تواجه عددًا من الدعاوى القضائية المتعلقة بالقضايا التي تم استخدامها لارتكاب جرائم، فقد بدأت شركات الذكاء الاصطناعي في محاربة دورها في الحد من الإصابات الجسدية وكيفية إنفاذ القانون.
ولم ترد شركة OpenAI على الأسئلة المتعلقة بالدعوى القضائية أو كيفية الاستشهاد عادةً بالدعاوى القضائية في مجال إنفاذ القانون، بما في ذلك الأسئلة حول الوكالات التي قد تعمل معها. وأشار إلى أ رسالة مكتوبة ردا إطلاق النار في كندا و نشر مدونة حول السلامة العامة.
ولم يُعرف بعد ما إذا كان القاضي الذي حاكم كيم في كوريا الجنوبية سيعترف بسجلات ChatGPT كدليل. القضية مستمرة. لقد جذبت هذه القضية الكثير من الاهتمام في هذا البلد. وذكرت وسائل إعلام محلية أن قاعة المحكمة امتلأت بالمراسلين والمتفرجين في الجلسة الأخيرة، في 7 مايو/أيار.
وفي فبراير/شباط، ألقت الشرطة القبض على كيم بتهمة القتل وانتهاك قانون مكافحة المخدرات في كوريا الجنوبية، زاعمة أنه أعطى الرجال مشروبات مسمومة تحتوي على البنزوديازيبينات وغيرها من العقاقير الطبية. وقالت السلطات إنه ابتداء من منتصف ديسمبر/كانون الأول، بحثت كيم عن شركاء ذكور، وأخذتهم إلى الفنادق وأعطتهم المخدرات، خوفا من الاتصال غير المرغوب فيه. ونجا المريض الأول بعد دخوله في غيبوبة لمدة يومين. وقال المسؤولون إن كيم ناقش الجرعة مع ChatGPT وقام بتعديلها قبل إعطائها للضحيتين الثانية والثالثة. لم يتم نشر المحادثة الكاملة وبدلاً من ذلك أبلغت الشرطة عنها واستشهدت بها.
وأكدت الشرطة أن الضحية الثالثة، التي يمثل نام ممتلكاتها، التقت بكيم في 9 فبراير في فندق في سيول. وقال نام إنهم أعطوه شراباً مليئاً بالمخدرات. وقال نام إنه بعد أن فقد الرجل الوعي، استخدم هاتفه لطلب الطعام وغادر معه. وصلت الشرطة في اليوم التالي، بعد أن كان الرجل قد مات بالفعل. وقال نام إن تقرير تشريح الجثة الذي شاهده أكد أنه توفي بسبب إدمان المخدرات.
وقال نام: “بطريقة ما، تلقى المشتبه به تعليمات من ChatGPT ثم استخدم المعلومات كوسيلة لارتكاب الجريمة”. “وهذا يجعل هذه القضية مختلفة لأن البحث عن ChatGPT تم استخدامه مباشرة كأداة للجريمة.”
على الرغم من أن الشرطة تستخدم أيضًا وسائل التواصل الاجتماعي وكاميرات المراقبة بالإضافة إلى أدلة المحادثات والمحادثات وChatGPT، إلا أنه قد يكون من الصعب تحديد ما إذا كان كيم ينوي قتل الضحايا. وتم تحديد موعد المحاكمة التالي في شهر يونيو.
تستمر قصة كيم في النمو تاريخ أحداث مماثلة في أمريكا الشمالية، حيث استخدم المشتبه بهم ChatGPT لطلب النصائح اللازمة في هذه القضية. لقد نأى صانعو هذه الآلات بأنفسهم عن الأنشطة غير القانونية والدعاوى القضائية المعلقة في الولايات المتحدة وكندا.
وقد أجبرت هذه الحالات OpenAI.
بعد أن قتل مطلق النار البالغ من العمر 18 عامًا ثمانية أشخاص في تمبلر ريدج، كولومبيا البريطانية، في فبراير، كتب سام ألتمان، الرئيس التنفيذي لشركة OpenAI، خطابًا يعتذر فيه للمجتمع عن عدم إبلاغه بقواعد حساب مطلق النار. ووصف مرتكب الجريمة الحوادث المتعلقة بالعنف المسلح على ChatGPT لعدة أيام قبل حظر الحساب في يونيو، أي قبل ثمانية أشهر من إطلاق النار. ولم تنبه الشركة سلطات إنفاذ القانون. وفي إبريل، عائلات القتلى والجرحى تم رفع سبع دعاوى قضائية اتحادية ضد OpenAIقائلة إنها فشلت في فعل ما كان يمكن أن يمنع إطلاق النار.
“في حين أن الكلمات قد لا تكون كافية، أعتقد أن الاعتذار ضروري للاعتراف بالأذى والخسارة التي لا يمكن إصلاحها التي تعرض لها مجتمعك.” “كتب ألتمانالالتزام بالعمل مع جهات إنفاذ القانون لمنع الجرائم في المستقبل.
المشتبه به في إطلاق نار في جامعة ولاية فلوريدا في أبريل 2025 وقال المدعي العام، جيمس أوثميير، في مؤتمر صحفي، إنه كان على “اتصال مستمر مع ChatGPT”. وأدى الهجوم إلى مقتل شخصين. أطلق Uthmeier تحقيقًا جنائيًا لتحديد ما فعلته OpenAI في الهجوم. وأضاف أن ChatGPT “نصح مطلق النار بنوع السلاح الذي سيستخدمه، وأين ذهبت الذخيرة وبأي سلاح، إذا كان السلاح مفيدًا على المدى القصير”.
وقال متحدث باسم OpenAI في ذلك الوقت إن “ChatGPT ليس مسؤولاً عن هذه الجريمة الخطيرة”، مضيفًا أن الردود التي قدمتها روبوتات الدردشة “يمكن العثور عليها في أي مكان على الإنترنت، ولم تشجع أو تروج للأنشطة غير القانونية أو الضارة”.
عائلة أحد ضحايا إطلاق النار في الاتحاد السوفييتي رفعت دعوى قضائية ضد OpenAI يوم الأحد.
كما تم استخدام ChatGPT ومخرجات الذكاء الاصطناعي الخاصة بها “للتحقيق في المتفجرات وأنظمة الإشعال” في انفجار تسلا في يناير 2025 خارج فندق ترامب الدولي في لاس فيغاس. بحسب شرطة لاس فيغاس. يقول مدير مدرسة في ولاية كارولينا الشمالية أنهم فعلوا ذلك تستخدم ChatGPT للتحقيق في “عقار حقن خطير وغير فعال” لقتل زوجها العام الماضي. في أكتوبر، مراهق من فلوريدا يبلغ من العمر 17 عامًا ويُزعم أنه استخدم السلاح يحاول أن يصنع kibed الخاص به.
ويقول الخبراء إن الموافقة على ChatGPT والأدوات المماثلة في القضايا الجنائية هي الأولى من نوعها. ومع ذلك، لم يتم ترك أي عملية قانونية دون عائق. ويستخدم المحامون والضحايا على حد سواء برامج الدردشة الآلية لرفع القضايا، وفي بعض الأحيان ترتكب أخطاء كثيرة لدرجة أن القضاة يحظرون استخدامها في محاكمهم. يستخدمها بعض النقاد للحصول على شهادة الطبيب أو للإشارة إلى الأدلة الفعلية المعنية. والآن، تظهر مجموعة متزايدة من القضايا التي تشير إلى استخدام الذكاء الاصطناعي التوليدي في القضايا الجنائية. بالنسبة للكثيرين في هذا المجال، فإن القضايا المعروضة على الجمهور هي مجرد نصائح.
وقال ماكس تيجمارك، خبير الفيزياء والتعلم الآلي في معهد ماساتشوستس للتكنولوجيا ورئيس معهد مستقبل الحياة، وهي منظمة غير ربحية تهدف إلى تقليل المخاطر الناجمة عن التقنيات الناشئة: “ليس من المستغرب أن يستخدم المجرمون روبوتات الدردشة الجاهزة للمساعدة في حل الجرائم”.
وقال تيجمارك: “هناك معايير سلامة أقل للذكاء الاصطناعي مقارنة بالسندويشات”. “الحل الواضح هو بناء سياسات أمنية بحيث لا تتمكن الشركات من إطلاق آلات الذكاء الاصطناعي حتى تقاوم المجرمين.”
يجادل البعض بأن استخدام برنامج الدردشة الآلي لا يختلف كثيرًا عن البحث البسيط على جوجل، والذي يخلق مسارات استخباراتية رقمية تكشف كيف يخطط المجرمون لأنشطتهم. لكن نام، وهو محامٍ كوري جنوبي، قال إن روبوتات الدردشة تخلق نوعًا جديدًا.
وقال “المشكلة الحقيقية هي أن صيغة المحادثة هذه ستسمح للمجرمين المحتملين بالاتصال” بـ ChatGPT دون تجريم أنفسهم.
وأضاف: “إذا سأل المشتبه به شخصًا ما عن جرعة أو استخدام عقار مميت، فمن الطبيعي أن يتساءل هذا الشخص عن الدافع – لماذا يريد أي شخص أن يعرف عن عقار مميت”. “ومع ذلك، لا يقوم ChatGPT بتصفية مثل هذه الاستعلامات عند تحديد الأهلية.”
مثل الشركات لقد بدأ في السقوط ومن خلال إساءة استخدام التكنولوجيا الخاصة بها، فإنها تواجه نفس الأسئلة المتعلقة بالسلامة كما فعلت في الماضي، مثل أحزمة الأمان، وتنبيهات وسائل التواصل الاجتماعي، أو التحذيرات بشأن المنتجات السامة المحتملة.
وقالت أنات ليئور، أستاذة القانون المساعدة في جامعة دريكسيل والتي درست حوكمة الذكاء الاصطناعي والمساءلة: “سنصل إلى نقطة يشعر فيها الجميع بالارتياح تجاه ذلك”. “لسنا متأكدين من شكل هذا الصراع.”
