Чини се да је вештачка интелигенција свуда ових дана, од дизајн ентеријера до кућна сцена . Али једна од најпознатијих — и, можда, једна од најконтроверзнијих — употреба АИ тренутно је ЦхатГПТ.
Ако никада нисте играо се са ЦхатГПТ пре тога, ево кратког снимка како то функционише: људски корисник уноси упит, на пример „Напиши ми нови рецепт за вечеру“ или „Како да украси моју собу за госте ”, и у року од неколико секунди, ЦхатГПТ испљуне одговор.
Али неки људи и предузећа користе ЦхатГПТ за много више од само припреме оброка. Они се у великој мери ослањају на цхатбот да би све писали есеји за пријем на факултет до рецензије производа — иако то понекад доводи до контроверзних исхода.
Као читаоца, ово би вас могло навести да се запитате да ли сте икада несвесно прочитали нешто за шта сте мислили да је написао људски аутор, а да га је уствари произвео бот. Питате се како да знате да ли је нешто написао ЦхатГПТ? Разговарао сам са неколико стручњака да бих добио њихове савете и савете за навигацију у овом мрачном новом свету у коме живимо. Ево шта су имали да кажу.
Како ЦхатГПТ каже да се види да ли је нешто написао ЦхатГПТ?
Али прво, питао сам се шта би ЦхатГПТ рекао ако бих му поставио ово питање. Из забаве, направио сам налог, укуцао „како да знам да ли је нешто написао ЦхатГПТ“ у траку за поруке и притиснуо ентер.
ЦхатГПТ ми је, наравно, одмах дао одговор.
„Идентификовање да ли је нешто написао ЦхатГПТ може бити изазов, јер модел има за циљ да генерише текст сличан човеку“, одговорили су. „Међутим, постоје неке опште карактеристике које могу указивати на то да је текст генерисао језички модел.“
Затим ми је дао листу особина које би могле указивати на то да је део текста написао бот, као што је понављање истих фраза или идеја више пута или изгледа генеричко и недостају специфични детаљи. ЦхатГПТ такође каже да у његовом писању можда недостају личне анегдоте и емоције.
Још једна прича, према ЦхатГПТ-у? Ако информације изгледају застареле, јер је ЦхатГПТ обучен само за податке до јануара 2022.
На крају свог одговора, ЦхатГПТ је покушао да ме увери, написавши да ако имам „конкретне недоумице или сумње у вези са делом текста, слободно питајте, а ја ћу се потрудити да вам помогнем“.
Како знати да ли је нешто написао ЦхатГПТ
У реду, то је био забаван експеримент, али сада шта су прави, људски стручњаци имали да кажу.
Прва ствар коју треба узети у обзир је да се ЦхатГПТ текст генерише промптом који је унео човек. Због тога, људски корисник може изнова и изнова подешавати промпт како би произвео специфичан глас, стил, дужину и врсту текста који траже. Због тога може бити изненађујуће тешко утврдити да ли је нешто написао ЦхатГПТ.
„У свом истраживању открио сам да се чак и добро обучени људи боре да поуздано открију генерисани текст“, каже Лиам Дуган , који истражује разна питања везана за цхат ботове док ради на свом докторату на Универзитету у Пенсилванији. (Он и његове колеге су креирали онлајн игру под називом „ Прави или лажни текст ,” где људи могу да тестирају своје вештине детекције текста генерисане вештачком интелигенцијом – испробајте и сами.)
Према Дугану, не постоје одређене речи или фразе које би указивале да је део текста написао цхатбот. Дакле, нажалост, не можете само да урадите „Цонтрол+Ф“ за одређену глаголску реч.
Други стручњаци су поновили ово мишљење.
„Нажалост, чини се да не постоји једноставан начин да се открије текст који је написао ЦхатГПТ или АИ уопште“, каже Ксавиер Хардинг, произвођач садржаја у Мозили, компанији која стоји иза интернет претраживача Фирефок. „Видели смо да се произвођачи ЦхатГПТ-а, ОпенАИ, окушају у нуђењу метода за откривање текста написаног вештачком интелигенцијом и морали су да их повуку, рекавши да не постоји тачан начин за откривање текста генерисаног вештачком интелигенцијом.
Пазите на грешке при копирању и лепљењу.
Али само зато што може бити тешко рећи не значи да је сва нада изгубљена. Пошто су људи ти који подстичу ЦхатГПТ, можда ћете видети неке супер очигледне назнаке да је нешто написао цхатбот.
„Видео сам како људи случајно укључују споредне коментаре од цхатбот-а као што су: „Наравно, ево новинског чланка о откривању“, каже Дуган.
Знајте како да уочите „халуцинације“.
Остављајући по страни ове врсте грешака, стручњаци такође препоручују пажљиво проучавање дела текста ради чињеничне тачности. Што је информација више ниша, већа је вероватноћа да ће цхатбот једноставно измислити чињеницу или нешто погрешити, каже Дуган.
Људи који раде на пољу вештачке интелигенције називају ове погрешне кораке „халуцинацијама“.
„Понекад ће вештачка интелигенција рећи ствари које су, директно, само нетачне“, каже Хардинг. „Ово може бити лако рећи да читате текст који је креирала АИ, а не особа, иако може бити тешко знати да ли је нешто халуцинација ако се ради о теми са којом нисте упознати.
Ако нисте баш упознати са темом о којој читате, извршите брзу претрагу на мрежи да бисте проверили информације које су пред вама, додаје Хардинг.
Пазите на писање које се чини превише општим.
Још један знак да је нешто написао цхатбот је претерана општост (што је и сам ЦхатГПТ поменуо). Ако се део текста чини преопширним - као што је филмска рецензија у којој се по имену не помиње ниједан од чланова глумачке екипе, на пример - можда бисте желели да будете сумњичави.
„Да би избегли грешке, цхатботи ће често писати генерички текст“, каже Дуган. „Они ће дати врло сигурне и предвидљиве одговоре и покушаће да избегну потребу за измишљањем информација. Међутим, ово често може изгледати чудно људском читаоцу. Читаоци треба да обрате пажњу на све што изгледа као да избегава давање конкретних информација.'
стално видим 777
Прочитајте више од првих неколико реченица.
Још један савет: Прочитајте што је могуће више текста, уместо само прве реченице или две. Гари Марцус , емеритус професор психологије и неуронауке на Универзитету у Њујорку, каже да може бити лакше утврдити да ли је нешто написао чет-бот када је текст дужи.
„Веома је тешко разазнати из било које реченице, јер су обучени на запањујуће велике количине текста да звучи што је могуће људскије“, каже он. „Ови системи често излазе из шина у дужим разговорима, али не нужно у кратким исечцима.“
А шта је са детекторима за цхатбот?
Потражите около на мрежи и вероватно ћете наићи на алате за које тврде да могу да открију текст генерисан вештачком интелигенцијом. Дуган тренутно спроводи велику студију како би тестирао ефикасност ових детектора - али за сада рани докази не обећавају.
„Сви наши резултати сугеришу да детектори нису поуздани и да их не би требало да користите у сценаријима са високим улозима“, каже он. „Многе компаније тврде да могу да открију генерисани текст са тачношћу од 99 процената или више, али ове тврдње су лажне. Детектори често означавају текст који је написао човек као генерисан четботом и лако их је преварити.
