.
اشتباه “خزنده” Snapchat به ما یادآوری می کند که chatbots مردم نیستند. اما با محو کردن خطوط ، خطرات رشد می کنند
در حادثه اخیر Snapchat ، این شرکت همه چیز را به “قطع موقت” کاهش داد. ما ممکن است هرگز بدانیم که واقعاً چه اتفاقی افتاده است. این می تواند نمونه دیگری از هوش مصنوعی “Hallucinatng” یا نتیجه حمله سایبری یا حتی فقط یک خطای عملیاتی باشد.
AI Snapchat
. ai д نه достапен В качестве экспериренتاب йфйцц дууции пл цикччч ، корара otorle retole пreatse пуцц пуццц пууццц кууццц кууццц кууцц куйццц куйцц куйцц куйцц куйццц را куйц пу пуйц пу пуйц пу пу пу пу пу пу пу пу пу пу пу пу пэ пуй.
AI من мorжет посоветовать иеи иеи подарکام на день рre длжей лre лre ، сппей ، жить реце RETE uжина иаже на REпиатй хайка ыыре длре вRшег оержиar чедеде جد пrewes чRчедедеде جد. сrebretred my ai {сВои собственны الا من ، даВ еar и и и насتاب иои сло сВоеروری чата2tion.
как иче чат-бо с с иккссеныart интелеле دارم ، ai скrel k من к гаалюцинациars ، иеGо мre orбre orбre оRбамамам اهای من ски вчч что ugодно. пожалайста ، поrrните о еgо многисلانی ых недостатках и заранее извините! Все рRAззоры с AI бUE сууранены и мor ыыть прыирораны дллззззирчш улчше уre рre рre сre сre сre ase сre ase. .
хores систеars “AI рRзработена таакир оразоاصم ، чтоыыы зеоъекъекъе ، неверной ، Вререрной ، рцации ، шиб بز мor ош и иشا. чтоыы оставить оВ ، нажشا и у уерживайте ююое соощение оme my ai من. .
AI Snapchat
نویسنده
- Daswin de Silva معاون مدیر مرکز تجزیه و تحلیل داده ها و شناخت ، دانشگاه La Trobe
بیانیه افشای
.
شرکای
.
Chatbots با هوش مصنوعی (AI) با طراحی به طور فزاینده ای در حال تبدیل شدن به انسان است ، تا جایی که برخی از ما ممکن است در بین ما تلاش کنند تا بین انسان و ماشین تمایز قائل شوند.
این هفته ، Snapchat’s AI Chatbot من قبل از متوقف کردن پاسخ به کاربران ، داستانی از آنچه شبیه دیوار و سقف است ، ارسال کرد. به طور طبیعی ، اینترنت شروع به این سؤال کرد که آیا چت بابات با چتپپ به دست آمده است.
یک دوره تصادف در سواد هوش مصنوعی می توانست این سردرگمی را خنثی کند. اما ، فراتر از آن ، این حادثه به ما یادآوری می کند که هرچه AI Chatbots به شبیه به انسان نزدیکتر می شود ، مدیریت جذب آنها فقط چالش برانگیز تر می شود – و مهمتر.
از قوانین مبتنی بر قوانین گرفته تا چت های اقتباسی
. حتی وقتی این مقاله را در Microsoft Word تهیه می کنم ، قابلیت پیش بینی هوش مصنوعی نرم افزار پیشنهاد تکمیل جمله های احتمالی را دارد.
.
ابزارهای تولیدی AI ، از جمله ژنراتورهای تصویر هوش مصنوعی و چت بابات ، بر روی مدل های بزرگ زبان ساخته شده اند (LLMS). این مدلهای محاسباتی ارتباطات بین میلیاردها کلمه ، جملات و پاراگراف ها را تجزیه و تحلیل می کنند تا پیش بینی آنچه باید در یک متن معین انجام شود. همانطور که ایلیا سوتسور بنیانگذار OpenAI آن را بیان می کند ، LLM است
[…] فقط یک پیش بینی کننده واقعاً خوب ، واقعاً خوب است.
LLM های پیشرفته نیز با بازخورد انسان تنظیم شده اند. .
Chatgpt Openai هنوز هم مدل AI تولید کننده پرچمدار است. .
به در آنها با سطوح بالاتر درگیری مرتبط بوده اند. یک مطالعه نشان داد که شخصیت چت بابات منجر به افزایش درگیری می شود که با گذشت زمان ممکن است به وابستگی روانی تبدیل شود. مطالعه دیگری که شرکت کنندگان در استرس نشان دادند که یک چت بابات مانند انسان به احتمال زیاد به عنوان صالح تلقی می شود ، بنابراین به احتمال زیاد به کاهش استرس شرکت کنندگان کمک می کند.
این چت بابات همچنین در تحقق اهداف سازمانی در تنظیمات مختلف از جمله خرده فروشی ، آموزش ، محل کار و تنظیمات مراقبت های بهداشتی مؤثر بوده است.
Google از هوش مصنوعی تولیدی برای ساختن “مربی زندگی شخصی” استفاده می کند که ظاهراً به افراد با کارهای مختلف شخصی و حرفه ای کمک خواهد کرد ، از جمله ارائه مشاوره زندگی و پاسخ به سؤالات صمیمی.
این درحالی است که کارشناسان ایمنی هوش مصنوعی Google هشدار می دهند که کاربران می توانند بیش از حد وابسته به هوش مصنوعی باشند و ممکن است در صورت مشاوره زندگی از آن ، “سلامتی و بهزیستی کاهش یافته” و “از دست دادن آژانس” را تجربه کنند.
?
. ما ممکن است هرگز بدانیم که واقعاً چه اتفاقی افتاده است. این می تواند نمونه دیگری از هوش مصنوعی “Hallucinatng” یا نتیجه حمله سایبری یا حتی فقط یک خطای عملیاتی باشد.
در هر صورت ، سرعتی که برخی از کاربران تصور می کردند Chatbot به حسی دست یافته است ، نشان می دهد که ما شاهد یک انسان شناسی بی سابقه AI هستیم. این با عدم شفافیت از توسعه دهندگان و عدم درک اساسی در بین مردم پیچیده شده است.
ما نباید دست کم بگیریم که چگونه افراد با اصالت ظاهری چت های مانند انسان گمراه می شوند.
. در مثال دیگر ، مشخص شد که یک چت بابات به نام تسا توصیه های مضر را از طریق یک راهنمای اختلال خوردن به مردم ارائه می دهد.
.
یک دره جدید Uncanny?
شاید از اثر “دره غیرقانونی” شنیده باشید. این به آن احساس ناخوشایندی اشاره دارد که وقتی یک ربات انسان دوست دارید که می بینید تقریبا به نظر می رسد انسانی است ، اما نواقص جزئی آن آن را از بین می برد و به پایان می رسد که خزنده است.
به نظر می رسد یک تجربه مشابه در تعامل ما با چت های مانند انسان در حال ظهور است. یک ضربه جزئی می تواند موهای پشت گردن را بالا ببرد.
. اما این به هزینه تعامل و نوآوری می رسد.
. با این حال از بعضی جهات (و تا آنجا که به نهادهای تجاری مربوط می شود) این مزایا از خطرات فراتر است.
. از بین رفتن بعید نیست. بنابراین چگونه می توانیم آن را برای ما کار کنیم?
از سال 2018 ، فشار قابل توجهی برای دولت ها و سازمان ها برای رفع خطرات AI وجود داشته است. .
. در ایالات متحده ، کالیفرنیا “لایحه ربات” را معرفی کرده است که به این امر نیاز دارد ، اما کارشناسان حقوقی سوراخ هایی در آن را به خود جلب کرده اند – و این لایحه هنوز در زمان نوشتن این مقاله اجرا نشده است.
علاوه بر این ، Chatgpt و Chatbots مشابه به عنوان “پیش نمایش تحقیقات” عمومی می شوند. این بدان معناست که آنها اغلب با چندین افشای در مورد ماهیت نمونه اولیه خود همراه هستند ، و ONUS برای استفاده مسئولانه بر روی کاربر قرار می گیرد.
قانون هوش مصنوعی اتحادیه اروپا ، اولین آیین نامه جامع جهان در مورد هوش مصنوعی ، مقررات و آموزش متوسط را به عنوان مسیر پیش رو شناسایی کرده است – زیرا مقررات اضافی می تواند نوآوری شیرین کاری کند. .
- هوش مصنوعی (AI)
- فن آوری
- دره غیرقانونی
- چتر
- کبوتر
- مدل های بزرگ زبان
- گودال
- اخلاق هوش مصنوعی
آیا از AI Chatbot AI Snapchat استفاده می کنید؟? در اینجا داده هایی که از شما گرفته شده است
در ماه آوریل ، اسنپ چت بابات با قدرت هوش مصنوعی خود ، هوش مصنوعی من ، در دسترس کاربران Snapchat بود. این شرکت می گوید بیش از 150 میلیون کاربر با chatbot صحبت کرده اند. اسنپ می گوید که چت بابات AI آن مجهز به نگهبان های بیشتری نسبت به Chatgpt است ، که باید آن را برای Snapchatters جوان امن تر کند.
طبق گفته Statista ، حدود 20 ٪ از کاربران جهانی Snapchat بین 13 تا 17 سال است ، بنابراین بسیار مهم است که بچه ها در معرض محتوای نامناسب قرار نگیرند که chatbot بتواند تولید کند. .
هنگامی که Snapchatters برای اولین بار شروع به گفتگو با AI من کرد ، بسیاری از آنها در مورد دسترسی Chatbot به مکان خود کنجکاو بودند. وقتی از هوش مصنوعی من سؤال شد که آیا موقعیت کاربر دارد ، سریعاً دسترسی به داده های جغرافیایی را انکار می کند.
اما اگر کاربر در منطقه خود توصیه رستوران را درخواست کرد ، هوش مصنوعی من می تواند آنها را ارائه دهد ، ثابت می کند که این ربات به مکان Snapchatters دسترسی دارد. مردم برای بیان اینکه نگران هوش مصنوعی من بودند ، به توییتر رفتند و شروع به کنجکاو بودن در مورد دسترسی به داده های کاربر می کردند.
بنابراین ، هوش مصنوعی من چه داده هایی را جمع می کند ، و SNAP با آن چه می کند?
محل
. اسنپ می گوید هوش مصنوعی من هیچ اطلاعات جدید مکان را از شما جمع نمی کند و فقط از داده های ارائه شده به Snapchat می گیرد.
. . اسنپ می گوید حتی با وجود حالت شبح ، اگر مجوز ردیابی موقعیت مکانی را به اسنپ چت اعطا کرده اید ، می تواند به مکان شما دسترسی پیدا کند.
گفتگو
Snap مکالمات خود را با هوش مصنوعی من ذخیره می کند تا زمانی که آنها را به صورت دستی حذف کنید ، اما می تواند تا 30 روز طول بکشد تا داده های مکالمه شما با هوش مصنوعی من از سرورهای Snapchat حذف شود. SNAP از مکالمات خود با هوش مصنوعی من برای آموزش مدل AI و هدف قرار دادن بهتر شما با تبلیغات شخصی استفاده می کند.
سیاست حفظ حریم خصوصی Snapchat بیان می کند که تمام SNAP ها از سرورهای Snapchat حذف می شوند پس از مشاهده همه گیرندگان آنها را مشاهده می کنند. . باید فرض کرد که SNAP هرگونه صوتی یا عکسی را که برای هوش مصنوعی من ارسال می کنید ، حفظ می کند و فقط در صورت انجام این کار حذف می شود.