چتباتها دیگر مثل قبل با نوجوانان حرف نمیزنند
شرکت اپنایآی قواعد امنیت جدیدی را برای محافظت از کاربران نوجوان به مدلهای خود اضافه کرد.
خلاصه خبر
به گزارش گروه علم و پیشرفت خبرگزاری فارس به نقل از تککرانچ، شرکت اپناِیآی در تلاش برای پاسخ به نگرانیهای فزاینده درباره تأثیر هوش مصنوعی بر نوجوانان، راهنمای رفتار مدلهای خود را برای کاربران زیر ۱۸ سال بهروزرسانی کرده و منابع آموزشی جدیدی برای والدین و نوجوانان منتشر کرده است.همزمان، قانونگذاران در ایالات متحده در حال بررسی استانداردهای قانونی برای محافظت از خردسالان در برابر خطرات هوش مصنوعی هستند وضعیتی که نشاندهنده فشار فزاینده سیاستگذاران، متخصصان ایمنی و والدین برای تنظیم تعاملهای هوش مصنوعی با کاربران جوان است.
طبق بهروزرسانی اخیر Model Spec (مجموعه قواعد رفتاری مدل)، شرکت خواستار احتیاط بیشتر در برخورد با کاربران نوجوان است و روشن کرده که مدلهای چتبات مانند چتجیپیتی باید در تعامل با افراد زیر ۱۸ سال مراقبتهای خاصی را رعایت کنند. این شامل پرهیز از نقشآفرینی عاشقانه یا صمیمی، دوری از محتوای جنسی یا خطرناک و دقت مضاعف در موضوعاتی مانند تصویر بدنی و رفتارهای ناسالم میشود. این دستورالعمل جدید همچنین بر اولویت امنیت نوجوانان حتی در صورت تداخل با آزادی فکری یا باز بودن موضوعات تأکید دارد و مدلها را به تشویق نوجوانان به جستوجوی حمایت واقعی مانند خانواده یا متخصصان ترغیب میکند.
همچنین منابع آموزشی در زمینه سواد دیجیتال و امنیت هوش مصنوعی برای والدین و نوجوانان منتشر کرده است تا به آنها کمک کند درک بهتری از چگونگی تعامل با هوش مصنوعی داشته باشند و مرزهای سالم و مفیدی تعیین کنند. با این حال، کارشناسان هشدار دادهاند که اعلامیهها و دستورالعملها تا زمانی که عملکرد واقعی مدلها با آنچه در سند آمده همراستا نشود، کافی نیستند. این تغییرات در حالی رخ میدهد که شرکتهای قانونگذار و گروههای مدافع امنیت کودکان در ایالات متحده بر مقررات سختتر درباره هوشمصنوعی تأکید میکنند؛ از جمله نامه ۴۲ دادستان کل ایالتی به شرکتهای بزرگ فناوری برای تقویت حفاظهای ایمنی و مذاکرات درباره قوانینی که میتواند دسترسی کودکان به چتباتها را محدود کند.
__آخرین مطالب حوزه فناوری را در صفحه اصلی «علم و پیشرفت» بخوانید.
00:49 - 29 آذر 1404
نظرات کاربران
