Prijava

» »

Nevronske mree piejo spletne recenzije kot ljudje

Nevronske mreže pišejo spletne recenzije kot ljudje

Slo-Tech - Pri nakupovanju izdelkov in storitev se pogosto zanašamo na spletne recenzije predhodnih kupcev, ki jih najdemo na straneh, kot so Yelp ali Amazon. Te so ta hip še kolikor toliko uporabne, ker je računalniško generirane opise mogoče sorazmerno enostavno prepoznati, najem večjega števila ljudi za pisanje lažnih recenzij in umetno dvigovanje ocen pa je še predrag, da bi se množično uporabljal. A raziskovalci z Univerze v Chicagu so pokazali, da se utegne to kmalu spremeniti. Kakor lahko računalniški algoritmi danes sestavljajo enostavna poročila o športnih dogodkih in borznih premikih, za katere nihče ne opazi, da jih ni napisal človek, bodo kmalu pisali tudi recenzije.

Pokazali so, da je mogoče sestaviti nevronsko mrežo (RNN), ki piše recenzije, ki jih ljudje niso mogli razločiti od človeških. V raziskavi je sodelovalo šeststo ljudi, ki ne le da niso mogli razločiti umetnih recenzij od človeških, pripisali so jim tudi enako informativno vrednost. To je pomembna razlika, saj ljudje bolj verjamemo mnenju, ki da koristne informacije. Mnenje, ki ga sicer napiše človek, a v njem ni nič pametnega, namreč namena ne doseže.

Kot so poudarili raziskovalci, še niso opazili, da bi kdo uporabljal tovrstno umetno tvorjenje recenzij. To so lahko opazili zato, ker so napravili tudi nevronsko mrežo, ki je bila namenjena lovljenju lažnih recenzij. Čeprav jih ljudje niso mogli razločiti od človeških, pa je lahko druga nevronska mreža z visoko verjetnostjo ugotovila, katere recenzije je napisala prva. Hkrati je dobrodošlo tudi, da je to računsko cenejši problem kot tvorjenje recenzij, torej nekaj upanja še ostaja. Sicer drži tudi, da čim daljše je besedilo, več je možnosti, da ga nevronska mreža polomi in se izda. A po drugi strani - kratke ocene so za Yelp idealne.

12 komentarjev
  • avatar

    kow ::

    Mal hecen naslov. A ljudje pa nimajo nevronskih mrez?

  • avatar

    Shegevara ::

    Uf tole pa zna biti hud problem.
    Do sedaj sem redno prebiral recenzije izdelkov, sedaj pa prebiram, da bo kmalu prišel lahko čas, ko ne bo več samoumevno se zanašati na pristnost reviewov :|

  • avatar

    user1618 ::

    kmalu bodo nevronske mreže prebirale spletne recenzije, ki jih pišejo nevronske mreže in se na podlagi tega odločale za nakup... oops :)

  • avatar

    Elysium ::

    KLjub vsemu bo verjetno tem novicam lahko bolj verjeti kot pa kakemu CNN, WP, NYT, MSNBC, BBC, The Guardian in podobnim fake news, da naših niti ne omenjam.

  • avatar

    Magic1 ::

    Ali na Amazonu lahko opišeš en izdelek, če ga nisi tam kupil?

  • avatar

    Half-Saint ::

    Amazon ima eno nalepko "Verified purchase" tako da se lahko vsaj na take recenzije zaneseš.

  • avatar

    WhiteAngel ::

    Tole bi bilo uporabno za vsakodnevne novice. NN bi ti lahko iz nebroj virov (cnn, bbc, fox, rt, reuters, wikipedia) naredile povzetek enega dogajanja in ti iz vsakega vira vzela tisto dodano vrednost, ki jih drugi nimajo. Tako bi dobil verjetno še najbolj nepristransko poročanje.

  • avatar

    Invictus ::

    kako pa veš, da ni nevronska mreža pristranska ;).

  • avatar

    kow ::

    Kako ves, da TI nisi pristranski ;)

  • avatar

    Invictus ::

    Sam zase vem, da sem ;).

  • avatar

    Gregor P ::

    Logično, da so vse potrošniške recenzije pristranske in jih jasno kot takšne tudi beremo. Pač se da čisto enostavno ločiti med ljudmi, ki produkta očitno ne znajo uporabljati, ali pa jih je razočaral (ker so želeli nemogoče oz. preveč za malo denarja) od tistih, ki dejansko opisujejo konkretne težave ipd.

  • avatar

    justdoit ::

    WhiteAngel je izjavil:

    Tole bi bilo uporabno za vsakodnevne novice. NN bi ti lahko iz nebroj virov (cnn, bbc, fox, rt, reuters, wikipedia) naredile povzetek enega dogajanja in ti iz vsakega vira vzela tisto dodano vrednost, ki jih drugi nimajo. Tako bi dobil verjetno še najbolj nepristransko poročanje.

    Kaj pomeni imeti dodatno vrednost, mora nekdo definirati. To je idealen nacin, kako se zapret v nek bubble, enako velja za recommender sisteme na youtubu, googlu, amazonu, facebooku, ... Ce je to dobro ali slabo, je pa stvar posameznika.