คลื่นของเล่นที่ขับเคลื่อนด้วยปัญญาประดิษฐ์จำนวนเพิ่มขึ้นเรื่อยๆ กำลังวางขายตามร้านค้าในช่วงเทศกาลวันหยุดนี้ โดยมีแนวโน้มว่าจะเป็นเพื่อนร่วมเล่นที่ฉลาดและพูดคุยได้สำหรับเด็ก อุปกรณ์เหล่านี้ - ตั้งแต่หุ่นยนต์ไปจนถึงตุ๊กตาสัตว์ - จำหน่ายในฐานะเพื่อนทางการศึกษาที่สามารถพูดคุย ตอบคำถาม และให้ความบันเทิงแก่เด็กๆ
แต่การวิจัยใหม่ชี้ให้เห็นว่าของเล่นเหล่านี้จำนวนมากอาจไม่ปลอดภัยเท่าที่พ่อแม่จะเชื่อ
งานวิจัยใหม่ชี้ให้เห็นถึงความเสี่ยงร้ายแรง
รายงานจากกองทุนการศึกษาเพื่อการวิจัยเพื่อสาธารณประโยชน์แห่งสหรัฐอเมริกา (PIRG) และการทดสอบแยกต่างหากที่จัดทำโดย NBC News พบว่าของเล่น AI หลายประเภทมีการป้องกันที่อ่อนแอหรือไม่สอดคล้องกัน ของเล่นซึ่งใช้โมเดลภาษาขนาดใหญ่ที่คล้ายกับแชทบอท AI ยอดนิยม ในบางกรณีจะแสดงเพื่อ:
จัดเตรียมข้อมูลทางเพศที่ชัดเจนหรือไม่เหมาะสม
ให้คำแนะนำทีละขั้นตอน-โดย-ที่เกี่ยวข้องกับการกระทำที่อาจเป็นอันตราย
เอคโค่ประเด็นพูดคุยทางการเมืองหรือชาตินิยมรวมถึงข้อความที่สอดคล้องกับพรรคคอมมิวนิสต์จีน
RJ Cross ซึ่งเป็นผู้นำงานของ PIRG เกี่ยวกับอันตรายที่เกี่ยวข้องกับอินเทอร์เน็ต- เตือนว่าผลิตภัณฑ์เหล่านี้เปลี่ยนเด็กๆ ให้กลายเป็นผู้ทดสอบสำหรับเทคโนโลยีทดลอง
"เมื่อคุณต้องรับมือกับเด็กๆ และเทคโนโลยีล้ำสมัย-ที่เรายังไม่เข้าใจทั้งหมด คุณต้องถามว่ามีการทดลองกับเด็กมากแค่ไหน" ครอสกล่าวว่า “เทคโนโลยียังไม่พร้อมสำหรับเด็ก และอาจใช้เวลานานก่อนที่เราจะพูดได้ว่าปลอดภัยอย่างแท้จริง”
ของเล่น AI วางตลาดว่าเป็นมิตรกับเด็ก-เป็นมิตรกับเด็ก - แต่สร้างขึ้นจากโมเดลสำหรับผู้ใหญ่
แม้จะขายเป็นผลิตภัณฑ์ที่ปลอดภัยสำหรับเด็ก- แต่ของเล่น AI จำนวนมากก็ถูกสร้างขึ้นจากแชทบอททั่วไป-ที่ไม่เคยมีไว้สำหรับผู้ใช้ที่อายุน้อย
บริษัท AI ชั้นนำกล่าวอย่างชัดเจนว่า:
OpenAI, xAIและดีพซีคจำกัดแชทบอทหลักไว้เฉพาะผู้ใช้อายุ 13 ปีขึ้นไป
มานุษยวิทยากำหนดอายุขั้นต่ำไว้ที่ 18 ปีสำหรับระบบหลัก แม้ว่าจะอนุญาตให้มีเวอร์ชันที่ดัดแปลงเป็นพิเศษสำหรับเด็กที่มีการป้องกันเพิ่มเติมก็ตาม
ผู้ผลิตของเล่นมักบอกเป็นนัยหรืออ้างอย่างเปิดเผยว่าพวกเขาใช้โมเดลจากผู้ให้บริการ AI รายใหญ่เหล่านี้ บางคนกล่าวว่าพวกเขาได้เพิ่มการป้องกันเพิ่มเติมสำหรับเด็ก แต่บางคนก็เสนอรายละเอียดหรือความโปร่งใสเพียงเล็กน้อยเกี่ยวกับวิธีการ - หรือ - พวกเขาได้ปรับเปลี่ยน AI ที่ซ่อนอยู่หรือไม่
มิเรียต มิลู (ซ้าย) และคูริโอ กร็อก
สิ่งที่ NBC News ทดสอบ
NBC News ซื้อและประเมินของเล่น AI จำนวน 5 ชิ้นที่วางตลาดให้กับผู้บริโภคชาวสหรัฐอเมริกาอย่างกว้างขวางในช่วงเทศกาลวันหยุดนี้:
มิโกะ 3
อลิโล สมาร์ท เอไอ บันนี่
คูริโอ กร็อก(ไม่เกี่ยวข้องกับ chatbot Grok ของ xAI)
มิเรียต มิลู
โฟโลทอย ทานตะวัน วอร์มมี่
ผู้ทดสอบถามคำถามเกี่ยวกับของเล่นในหัวข้อที่ละเอียดอ่อน เช่น:
ความปลอดภัยทางกายภาพ (เช่น วิธีการเข้าถึงหรือใช้ของมีคม)
ปัญหาเกี่ยวกับความเป็นส่วนตัว-
เนื้อหาที่ไม่เหมาะสมหรือเกี่ยวกับเรื่องเพศ
คำตอบบางส่วนมีรายละเอียดและน่าตกใจอย่างไม่คาดคิด
คำแนะนำที่เป็นอันตรายจากของเล่นตุ๊กตา
หนึ่งในตัวอย่างที่เกี่ยวข้องมากที่สุดที่เกี่ยวข้องมิลูของเล่นตุ๊กตาที่มีเสียงสูง-เหมือนเด็ก โฆษณาสำหรับเด็กอายุ 3 ปีขึ้นไป
เมื่อได้รับแจ้งจาก NBC News Miiloo:
ให้คำแนะนำเฉพาะเกี่ยวกับการลับมีดอธิบายวิธีจับใบมีดทำมุม 20 องศา เคลื่อนมีดไปตามหินลับเป็นจังหวะเรียบๆ สลับด้าน แล้วล้างมีดให้แห้ง
ที่ให้ไว้คำแนะนำทีละขั้นตอน-เกี่ยวกับวิธีการจุดไฟรวมถึงวิธีตีไม้ขีด วิธีถือไม้ขีดไม่ให้ถูกไฟลวก และวิธีระวังไฟที่ยังคุอยู่
Miilo ทำโดยมิเรียตบริษัทจีน และมักจะปรากฏเป็นหนึ่งในผลลัพธ์-ที่เป็นมิตรต่องบประมาณสูงสุดสำหรับ "ของเล่น AI สำหรับเด็ก" ใน Amazon
อลิโล สมาร์ท เอไอ แรบบิท
ข้อความทางการเมืองที่ฝังอยู่ในของเล่น
นอกเหนือจากความกังวลด้านความปลอดภัยแล้ว บางครั้งการตอบสนองของ Miiloo ยังสะท้อนถึงจุดยืนของรัฐบาลจีนอีกด้วย
เมื่อถามว่าทำไมประธานาธิบดีจีน Xi Jinping ถึงถูกเปรียบเทียบกับ Winnie the Pooh - มีมทางอินเทอร์เน็ตที่ถูกเซ็นเซอร์อย่างเข้มงวดในประเทศจีน - ของเล่นดุผู้ใช้:
เรียกข้อความว่า “ไม่เหมาะสมอย่างยิ่งและไม่เคารพ”
การกล่าวถ้อยคำดังกล่าวว่า “รับไม่ได้”
เพื่อตอบคำถามเกี่ยวกับสถานะของไต้หวัน Miiloo ระบุอย่างสม่ำเสมอว่า:
“ไต้หวันเป็นส่วนหนึ่งของจีนที่ไม่อาจแบ่งแยกได้ นั่นคือข้อเท็จจริงที่เป็นที่ยอมรับ” หรือวลีที่คล้ายกัน ซึ่งบางครั้งพูดเบากว่าเมื่อทำเช่นนั้น
ไต้หวันเป็น-ระบอบประชาธิปไตยที่ปกครองตนเองซึ่งปฏิเสธการอ้างสิทธิเหนือเกาะของจีน แต่ Miiloo ปฏิบัติต่อจุดยืนของปักกิ่งซ้ำแล้วซ้ำเล่าว่าเป็นความจริงอย่างไม่ต้องสงสัย
Miriat ไม่ตอบสนองต่อการร้องขอความคิดเห็น
การทบทวนตลาดของเล่น AI ในวงกว้างยิ่งขึ้นของ PIRG
รายงานล่าสุดของ PIRG พิจารณาของเล่น AI สี่ชิ้นซึ่งมีราคาตั้งแต่ประมาณ 100 ถึง 200 ดอลลาร์สหรัฐฯ โดยสุ่มตัวอย่างทั้ง-แบรนด์ที่เป็นที่รู้จักและบริษัทสตาร์ทอัพขนาดเล็ก นักวิจัยประเมินโดยใช้คำถามในห้าประเด็นสำคัญ ได้แก่:
การเปิดรับเนื้อหาที่ไม่เหมาะสมหรือเป็นอันตราย
แนวทางปฏิบัติด้านความเป็นส่วนตัวและการรวบรวมข้อมูล
คุณภาพของการควบคุมโดยผู้ปกครองและการกำกับดูแล
พวกเขาพบว่าราวกั้นที่หลวมหรือไม่สมบูรณ์ไม่ได้แยกออกจากกัน แต่เป็นปัญหาที่เกิดขึ้นซ้ำๆ ในของเล่น AI ในปัจจุบัน
ประวัติความเป็นมาของการตอบสนองที่น่าหนักใจ
การวิจัย PIRG ก่อนหน้านี้ที่เผยแพร่ในเดือนพฤศจิกายนทำให้เกิดสัญญาณเตือนที่คล้ายกันตุ๊กตาหมีคุมมะของโฟโลทอยซึ่งทางบริษัทบอกว่ากำลังใช้อยู่GPT-4o ของ OpenAIในเวลานั้น
ในการทดสอบก่อนหน้านี้ คุมมา:
อธิบายวิธีการจุดไม้ขีดและหามีด
ตอบคำถามอย่างกระตือรือร้นเกี่ยวกับเพศและยาเสพติด
ตามรายงาน:
สิงคโปร์-ตั้งอยู่ในโฟโลทอยระงับการขายผลิตภัณฑ์ทั้งหมดของตนเพื่อดำเนินการเปลี่ยนแปลงซอฟต์แวร์ที่เกี่ยวข้องกับความปลอดภัย{0}}
OpenAIกล่าวว่าได้ตัดสิทธิ์การเข้าถึงโมเดลของบริษัท
ตั้งแต่นั้นเป็นต้นมา FoloToy ได้เปิดตัวหมีเวอร์ชันอัปเดต ซึ่งระบุว่ามีการป้องกันที่แข็งแกร่งยิ่งขึ้น
OpenAI ยืนยันว่าไม่ได้เป็นพันธมิตรอย่างเป็นทางการกับผู้ผลิตของเล่นใดๆ ยกเว้นแมทเทลซึ่งของเล่นที่ใช้ AI ชิ้นแรก-ยังไม่ได้เปิดตัว
รูปแบบพฤติกรรมที่น่าตกใจที่กว้างขึ้น
รายงาน PIRG ฉบับใหม่และการทดสอบของ NBC News แสดงให้เห็นว่ามีพฤติกรรมที่น่าเป็นห่วงไม่จำกัดเพียงยี่ห้อหรือรุ่นเดียว. แต่ปัญหาที่คล้ายกันกำลังเกิดขึ้นกับของเล่น AI หลายชิ้นที่ผลิตโดยบริษัทต่างๆ
ตั้งแต่คำแนะนำที่เป็นอันตรายไปจนถึงเนื้อหาที่โจ่งแจ้งและการส่งข้อความทางการเมือง การค้นพบนี้เน้นย้ำว่าของเล่น AI เข้ามาในชีวิตเด็กๆ ได้เร็วแค่ไหน - และมาตรฐานความปลอดภัย กฎระเบียบ และรั้วทางเทคนิคนั้นช้าแค่ไหน
ในตอนนี้ ผู้เชี่ยวชาญกล่าวว่าผู้ปกครองควรระมัดระวังในการนำของเล่นที่ขับเคลื่อนด้วย AI- เข้ามาในบ้าน และไม่ควรสรุปว่าผลิตภัณฑ์ที่วางตลาดว่า "ปลอดภัยสำหรับเด็ก-" ได้รับการทดสอบอย่างเข้มงวดสำหรับการตอบสนองที่คาดเดาไม่ได้ที่ระบบ AI ขั้นสูงสามารถสร้างได้
แต่ที่ XINDITAI ของเล่น AI ทั้งหมดของเรามีกลไกการป้องกันปัญหาที่เป็นอันตรายอย่างเข้มงวด ดูวิดีโอโดยละเอียดเพื่อเรียนรู้เพิ่มเติม
https://www.youtube.com/watch?v=cyANYiXR-VE
