„Зловещата“ грешка на Snapchat ни напомня, че чатботите не са хора. Но тъй като линиите се размиват, рисковете растат

При неотдавнашния инцидент на Snapchat компанията постави цялата работа до „временно прекъсване“. Може да никога не знаем какво всъщност се е случило; Това може да бъде още един пример за AI „Hallucinatng“ или резултат от кибератака или дори просто оперативна грешка.

Snapchat AI

Segodny mы зpuskaem my ai, kougoso чат-botа, рбота-ъ-rodaha- gptahate, ko- dlue-dly-dly-dly-dly-dly-dly-dly-ute-ute-ute-ute-ute-ute-dly-ute-ute-ute-ou-ute-dly-dly-ute-dly-ute-ute-ou-ute-ute-ou-ou-ute-ute-ou-ou-ou-ou-ute-ou-ou-ute-ou-ou-ute-ou-ou-ou-. Моят ай -настун В Качестве -Кссперинтальной Функхии Дълха -уил -ат -дьояв.

. Сделах, моят ай Свмоим Собственным, Дв Ему Имя инастрой Обой Дъл.

Как и В.ат-Борх С сцкусстнхн-м иньовском, моя Ай- СКИ ВСЕ чTO. Proжалува, помнит за егонамноухно! ВСЕ РАГОВОРы С моя ай -Будут Сохранене Имогут БыТь Праналиированы Дюлумя Раабот. Не делитесь с моя ай йкакими ссхетамий и -полгагаесьда.

Хotha sistemа моя ai arзrаботана -takim obraзom, чtobы и -bege -з -з -з – Рмауии, О -оибки Могут Йеметьше. Чtobы Ostaviitja stuзыv, keжmiate и userжivaйtе lюboе, csosenieе от моя ai ai ai ai. Mы budem radы улышать О -.

Snapchat AI

Автор

1. Daswin de Silva заместник -директор на Центъра за анализ на данни и познание, университет La Trobe

Daswin de Silva не работи, консултира, притежава акции или получава финансиране от която и да е компания или организация, която би се възползвала от тази статия, и не разкрива съответна връзка извън тяхната академична среща.

Партньори

Университетът La Trobe осигурява финансиране като член на разговора AU.

Чатботите с изкуствен интелект (AI) стават все по-подобни на човека по дизайн, дотолкова, че някои от нас могат да се борят да разграничат човека и машината.

Тази седмица, Snapchat My AI Chatbot блесна и публикува история за това, което приличаше на стена и таван, преди да спре да реагира на потребителите. Естествено, Интернет започна да поставя под въпрос дали чатботът, работещ с чат, е придобил чувство.

Курс за катастрофа в AI грамотност може да потуши това объркване. Но отвъд това инцидентът ни напомня, че с увеличаването на чатботите на AI се приближават до наподобяващи хора, управлението на тяхното усвояване ще стане само по -предизвикателно – и по -важно.

От базирани на правила до адаптивни чатботи

Тъй като Chatgpt избухна на нашите екрани в края на миналата година, много цифрови платформи са интегрирали AI в своите услуги. Дори докато изготвям тази статия за Microsoft Word, прогнозната способност на AI на софтуера предлага възможни завършвания на изречения.

Известен като генеративен AI, този сравнително нов тип AI се отличава от своите предшественици чрез способността си да генерира ново съдържание, което е прецизно, подобно на човека и на пръв поглед смислено.

Генеративните AI инструменти, включително AI генератори на изображения и чатботи, са изградени на големи езикови модели (LLMS). Тези изчислителни модели анализират връзките между милиарди думи, изречения и параграфи, за да прогнозират какво трябва да дойде след това в даден текст. Както казва съоснователят на Openai Ilya Sutskever, LLM е

[…] Просто наистина, наистина добър прогноза за следващата дума.

Advanced LLMS също се прецизира с човешки отзиви. .

Chatgpt на Openai все още е водещият генеративен AI модел. Изданието му бележи голям скок от по-прости „базирани на правила“ чатботи, като тези, използвани в онлайн обслужването на клиентите.

Човешки чатботи, които говорят Потребител, а не at те са свързани с по -високи нива на ангажираност. Едно проучване установи, че олицетворението на чатботите води до повишена ангажираност, която с течение на времето може да се превърне в психологическа зависимост. Друго проучване, свързано с стресирани участници, установи, че чатботът, подобен на човека, е по-вероятно да се възприема като компетентен и следователно по-вероятно да помогне за намаляване на стреса на участниците.

Тези чатботи също са били ефективни за изпълнение на организационните цели в различни условия, включително дребно, образование, работно място и здравни условия.

Google използва генеративен AI за изграждане на „личен треньор на живота“, който уж ще помогне на хората с различни лични и професионални задачи, включително предоставяне на житейски съвети и отговор на интимни въпроси.

Това е въпреки собствените експерти по безопасност на Google, предупреждавайки, че потребителите могат да растат твърде зависими от AI и могат да изпитат „намалено здраве и благополучие“ и „загуба на агенция“, ако вземат житейски съвети от него.

Приятел или враг – или просто бот?

При неотдавнашния инцидент на Snapchat компанията постави цялата работа до „временно прекъсване“. Може да никога не знаем какво всъщност се е случило; Това може да бъде още един пример за AI „Hallucinatng“ или резултат от кибератака или дори просто оперативна грешка.

Така или иначе, скоростта, с която някои потребители предположиха, че чатботът е постигнал чувство, предполага, че виждаме безпрецедентен антропоморфизъм на AI. Той се усложнява от липсата на прозрачност от страна на разработчиците и липсата на основно разбиране сред обществеността.

.

По -рано тази година самоубийството на белгийски човек се приписва на разговори, които е водил с чатбот за бездействието на климата и бъдещето на планетата. В друг пример беше установено, че чатбот на име Теса предлага вредни съвети на хората чрез моторна линия за хранително разстройство.

Чатботите могат да бъдат особено вредни за по -уязвимите сред нас и особено за тези с психологически състояния.

Нова тайна долина?

Може би сте чували за ефекта „Uncanny Valley“. почти изглежда човек, но леките му несъвършенства го раздават и в крайна сметка е страховито.

Изглежда подобно преживяване се появява в нашите взаимодействия с човешки чатботи. Лекото изкривяване може да повдигне космите на гърба на шията.

Едно решение може да бъде да загубите човешкия ръб и да се върнете към чатботите, които са ясни, обективни и фактически. .

Образованието и прозрачността са ключови

Дори разработчиците на Advanced AI Chatbots често не могат да обяснят как работят. И все пак по някакъв начин (и що се отнася до търговските предприятия) ползите надвишават рисковете.

Генеративният AI демонстрира своята полезност в артикули с големи билети като производителност, здравеопазване, образование и дори социална справедливост. Малко вероятно е да си отиде. И така, как да го накараме да работи за нас?

От 2018 г. има значителен тласък за правителствата и организациите да се справят с рисковете от AI. .

Понастоящем няма законово изискване австралийските предприятия да разкрият използването на чатботи. В САЩ Калифорния въведе „законопроект за бот“, който би изисквал това, но правните експерти са пуснали дупки в него – и законопроектът все още не е приложен по време на писането на тази статия.

Нещо повече, Chatgpt и подобни чатботи се оповестяват като „визуализации на изследвания“. Това означава, че те често идват с множество оповестявания по своя прототипна природа, а тежестта за отговорна употреба пада върху потребителя.

. Подобно на дигиталната грамотност, AI грамотността трябва да бъде назначена в училища, университети и организации, а също така трябва да бъде безплатна и достъпна за обществеността.

• Технология
• Зловеща долина
• Snapchat
• AI модел
• Големи езикови модели
• Chatgpt
• Етика на изкуствения интелект

Използвате ли AI чатбот на Snapchat? Ето данните, които те дърпа от вас

През април SNAP направи своя чатбот с AI, моят AI, достъпен за потребителите на Snapchat. . Snap казва, че неговият AI чатбот е оборудван с повече парапети от Chatgpt, което трябва да го направи по -безопасно за по -младите Snapchatters.

. .

Когато Snapchatters за първи път започнаха експериментално да разговарят с моя AI, мнозина бяха любопитни за достъпа на чатбота до тяхното местоположение. .

. Хората отидоха в Twitter, за да изразят, че са били загрижени от моя AI и започнали да се интересуват от това, че потребителските данни могат да имат достъп до бота.

И така, какви данни събира моя AI и какво прави Snap с него?

Местоположение

Моят AI може да получи достъп до вашето местоположение, ако позволите на Snapchat да има достъп до вашето местоположение. Snap казва.

Някои потребители активират функция Snapchat, наречена Ghost Mode, която ви позволява да скриете местоположението си от приятелите си и да ви премахне от картата Snap. Режимът на призрак обаче не гарантира, че моят AI не може да получи достъп до вашето местоположение. Snap казва, че дори и с призрачен режим, моят AI може да получи достъп до вашето местоположение, ако сте предоставили разрешение за проследяване на местоположението на Snapchat.

Разговори

. .

Политиката за поверителност на Snapchat гласи, че всички щракане се изтриват от сървърите на Snapchat, след като всички получатели ги преглеждат. . .