A Vaping Twitter Bot Tanulmány dehumanizáló propaganda.

Október 4-én egy emailt kaptam egy Wall Street Journal riporterétől, aki az “e-cigaretták bot-marketingjéről” készült tanulmányomról szeretett volna véleményt kérni egy már tervezett cikkéhez.

Azt gondoltam, hogy ez a brit Astroscreen cég nemrégiben kiadott jelentéséről szól, amely azt mondta a Wired UK-nak, hogy felfedezték, hogy egy “koordinált, hamis social media kampány kifejezetten kulcsfontosságú amerikai döntéshozókat céloz meg azzal a céllal, hogy arra kényszerítse őket, hogy vonják vissza az anti-vaping törvényhozás terveit.” Ironikus módon, az Astroscreen épített egy botot, hogy elvégezze a munkáját, és mivel a bot “szabadalmi gépi tanulási technológia” (fordítás: senki más, csak a szerzők láthatják, hogy hogyan vagy miért jutottak el a következtetéseikhez), igazából nincs mód arra, hogy megítéljük a következtetéseik érvényességét.

Készen álltam arra, hogy erről beszélgessek a velem kapcsolatba lépő riporterrel. De ő nem a Astroscreen bot tanulmányról akart velem beszélni.

A WSJ riporter egy másik jelentésről szeretett volna megjegyzéseket, egy névtelen kutatók által készített jelentésről a Public Good Projects (PGP) keretein belül, amelyet valami Nicholson Alapítvány által finanszíroztak. Amikor azt mondtam, hogy kényelmetlenül érzem magam egy olyan tanulmány kommentálása miatt, amelyet még nem láttam vagy olvastam, a riporter felajánlotta, hogy elküldi nekem a jelentést azzal a feltétellel, hogy nem osztom meg vagy kommentálom, amíg a történet meg nem jelenik. Elfogadtam ezeket a feltételeket.

Hadd mutassam meg, mennyire furcsa, hogy két eltérő magánszerv döntött úgy, hogy “leleplezi” a látszólag elburjánzó “bot” tevékenységet a vaping támogatási térben azzal, hogy ellenőrizetlen “tanulmányokat” szivárogtattak ki a főbb hírforrásokhoz, láthatóan anélkül, hogy bármilyen tervük lenne az ilyen tanulmányok szakmai felülvizsgálatára és a nyilvános kiadásuk előtt.

Amikor elolvastam a PGP jelentést, észrevettem más hasonlóságokat. Az Astroscreen-hez hasonlóan, a PGP is megmagyarázhatatlanul átlátszatlan volt a módszertanukkal kapcsolatban. A PGP szerint az elemzésük “soha nem látott információt kínál a botok aktuális szerepéről az e-cigarettákkal és a dohánytermékekkel kapcsolatos online beszélgetésben.” Pontosabban, azt a következtetést vonják le, hogy “az Egyesült Államokban az e-cigarettákkal és a dohánytermékekkel kapcsolatos nyilvános médiahordozón keresztül átkonvertált üzenetek több mint fele automatizált fiókok, vagy botok által lehetett közzétéve.”

Mégis, nem szolgáltatnak hasznos információt arról, hogyan jutottak erre a következtetésre. Az olvasóknak egyszerűen bíznia kell abban, hogy a megállapítás érvényes. De észrevettem valamit a jelentésben, ami jó okot adott arra, hogy ne bízzak benne. És mivel a cikk, amit végül a Wall Street Journal kiadott, nem tartalmazta a megjegyzéseimet a riporternek, itt fogom ezeket kifejteni.

Azonban mielőtt elérném ezt, nézzük meg a PGP jelentésével kapcsolatos kérdések szélesebb problémáit.

Mit értenek a “bot” szó alatt egyáltalán?

Először is, a PGP megmagyarázhatatlanul homályos abban, hogy mit is csináltak, hogyan csinálták, és mit találtak. Ez nagyon megnehezíti azoknak a nyilatkozatoknak az értelmezését, amelyek látszólag egyértelműek a jelentésben, mint ez: "a 2,536,659 Twitter-üzenet összes megfigyeléssel kapcsolatosan e-cigarettákról vagy dohányról, az üzenetek 22,6%-át emberek, 20,8%-át gyanított botok, és 56,6%-át megerősítették, hogy botok generálták."

Lehetetlen érdemben értelmezni a fenti statisztikát, mert nem tudjuk, mit ért a PGP botok alatt. Vagy inkább, nem tudjuk, mit számoltak botként, amikor elvégezték az elemzést. Tudjuk, hogy a jelentés kerete alapján a PGP azt akarja, hogy a vaping esetében a botokra automatizált fiókként gondoljunk, amelyek úgy lettek megtervezve, hogy emberinek tűnjenek, hogy dezinformációt terjesszenek a nikotinról és e-cigarettákról, és/vagy hirdessék őket mindenki és mindenki számára, különösen gyerekeknek.

De amit a PGP akar, hogy gondoljunk, amikor halljuk a “bot” szót, az nem ugyanaz, mint amit valójában botnak számoltak ebben a tanulmányban. Szóval hogyan azonosították valójában a botokat, és mit tekintettek botnak? Itt van, amit a jelentésben mondanak:

„A PGP képes azonosítani, hogy mely bejegyzések magas valószínűséggel botoktól származnak, és melyek származnak emberektől…. A PGP kutatói több fiók jellemzőt vizsgálnak meg annak megállapítására, hogy a bejegyzés botból származik-e, beleértve (de nem kizárólag) a bejegyzések gyakoriságát és időzítését, a bejegyzések számát, a követők számát és a más fiókokkal való kapcsolattartást. A botok, különösen azok, amelyeket rosszindulattal hoztak létre, hihetetlenül finomak, és gyakran úgy lettek megtervezve, hogy pontosan úgy nézzenek ki, mint egy ember. Ezért a fiókok és profilok alapvető jellemzőinek egyszerű vizsgálata elégtelen az automatizálás valószínűségének felmérésére.”

Ez haszontalan. Nem érdekel, mennyire pontosnak gondolják a PGP a módszereiket; azt szeretném, ha én magam tudnám ezt értékelni, és nem tudom az általuk megadott információk alapján. De kifejezetten ezt a leereszkedő és túl homályos kifogást akarják nekem adni, hogy megmondják, mit néztek valójában, így én magam megítélhetem, hogy érvényes-e a tanulmányuk. Azt hiszik, hogy a módszereik varázslat, és úgy állítják be őket, mintha azok túl bonyolultak lennének az olvasóik számára, ami alapvetően egy hatalmas piros zászló.

A PGP tegnap a Twitteren megosztott néhány utólagos tisztázást a botok osztályozási folyamatával és módszertanával kapcsolatban, amelyek még homályosabbak és értelmetlenebbek voltak, mint amit valójában a jelentésben mondtak. Például: “Automatizálásnak” egy 1-100 közötti pontszámot definiálunk. A 100%-os robot olyan dolgokat fog csinálni, mint az auto-RT, anélkül, hogy eredeti tartalmat posztolna.”

Peter Sterne, egy szabadúszó újságíró, aki a médiaiparról ír, tömör módon megfogalmazta a PGP bot-definíciójának problémáját egy privát üzenetben nekem: “A PGP nyilvánvalóan egy abszurd módon széles bot-definíciót fogadott el (bármelyik, aki bármilyen automatikus bejegyzéselő készüléket használ), amely sok valódi embert is magában foglal, miközben erősen implikálja, hogy az összes “bot” egy szofisztikált social media működés része, és tweetjeik nem vehetők komolyan.”

Bármilyen esemény történt is, a PGP nyilvánvalóan érdekelt a botok tanulmányozásában, bármilyen döntést is hoztak. A botok aránya a vaping térben, és az általuk játszott szerep a támogatásban egy legitim kutatási rejtély, és szerintem sok vape-rajongó érdekesnek találna egy olyan tanulmányt, amely válaszolni tud ezekre a kérdésekre. De a lényeg az, hogy a PGP nem tervezett olyan tanulmányt, amely válaszolni tudna a jelentésük motiváló kérdéseire.

Ha a PGP meg akarta érteni a tweeter populációjának jellemzőit (azaz a vaper-eket), ki kellett volna találniuk egy módot arra, hogy reprezentatív mintát kapjanak ebből a populációból. Ez gyakorlatilag lehetetlen, de ez nem lényeges, mert a PGP-nek úgy tűnik, még csak nem is érti, hogy valószínűleg hasonlót kellene tenniük. A PGP nem fiókokat mintázott, hanem tweeteket. Ezeket a tweeteket fiókok küldték (nyilvánvalóan), tehát végül egy fióksorozat birtokába jutottak, de teljesen helytelen volt a kutatóknak arra következtetniük, hogy a vapingről tweetelő fiókok populációjáról van szó, figyelembe véve néhány fiókot, akinek a tweetjei véletlenül bekerültek a mintájukba.

A jelentés másik nagy problémája, hogy valójában nem mondja el, hány egyedi fiókról van szó itt. Azt riportálják, hogy hány tweetet küldtek (valószínűleg azért, mert ezek a számok nagyobbak, és a PGP lenyűgözni akar minket), de azt nem tudjuk, hány fiók küldi őket. És ez valójában nagyon fontos, ha a mintában van valódi bot (valószínűleg van néhány), mert egy ismeretlen spam-bot, aki null követővel van programozva, hogy naponta százat tweeteljen a vapelésről, aránytalan számú tweetet generálhatott az egész mintában, még akkor is, ha a botnak alig vagy egyáltalán nincs hatása az ő apró, elszigetelt buborékán kívül.

Ezek a botok egyáltalán nem botok

A világosság hiánya, a hiányzó meghatározások és a világos módszertani alkalmatlanság elegendő okot ad a tanulmány következtetéseinek megkérdőjelezésére. De a konkrét jelző, hogy a PGP megállapításai nem érvényesek, az a jelentés egy része, amelyet a nyilvános közzététel előtt töröltek. (Megtekintheti a nyilvános verziót a PGP weboldalán.)

Vissza a Wall Street Journalhoz. Amikor megkértek, hogy kommentáljam a PGP jelentést, küldtek nekem egy másolatot. 32 oldal hosszú volt. Az eredmények szakasz 15 oldal hosszú volt. És az eredmények egy szakasza, amelynek címe “Bot Hálózatok”, ezeknek az eredményeknek körülbelül 40%-át foglalta el. Öt “mikro-szintű” elemzésből állt, amelyek a “bot fiókoknak” és a “bot hálózatoknak a [PGP] elemzési folyamat során azonosították.” Grafikonokat használnak az egyes hálózatok ábrázolására. (Itt van a verzió, amelyet a riporter adott nekem.)

A PGP grafikonjainak mindegyike egy középponti csomópont köré épült, amely egy “botot” képviselt a PGP elemzésében. Ez a csomópont más csomópontokhoz kapcsolódott, amelyek a szóban forgó bot tweetjeit retweetelő fiókokat képviseltek. A közösségi hálózati elemzők ezeket a grafikus ábrázolásokat “ego hálózatoknak” nevezik, mivel ábrázolják a kapcsolatot egy középponti csomópont (az “ego”) és a kapcsolódó csomópontok (“alters”) között. A PGP színekkel kódolta az alter csomópontokat aszerint, hogy megfeleltek-e a botnak lenniük az általuk nem nyilvánosságra hozott kritériumainak, a fehér csomópontok pedig azokat a fiókokat képviselik, amelyeket embereknek határoztak meg. A fehér csomópontok a PGP összes hálózatában a csomópontok kisebbségét képezték.

A PGP azt akarja, hogy higgyük, hogy a Twitter aktivitása a vapelésről valószínűleg nem valódi emberek által generált. Azt az “ego” bot nevét, amely minden botnet középpontjában állt, kitakarták. Miért? A jelentésben azt állítják, hogy ez a fiókok magánéletének védelme érdekében történt, de ha a fiókok botok, miért számít ez?

Őszintén szólva, még ha a PGP valóban érdeklődött is a valódi embereknek álcázott bot fiókok személyazonosságának védelme iránt, akik zűrzavart okoznak az on-line vapelés diskurzusában potenciálisan súlyos következményekkel a közegészség számára (vagy ahogy mondják), a tény az, hogy borzalmas munkát végeztek.

Képes voltam könnyedén azonosítani a konkrét fiókokat, amelyek a középponti csomópontot képviselik mind az öt feltételezett bot hálózatban, amelyet a PGP a kezdeti jelentésében szerepeltetett. Ezt azért tudtam megtenni, mert a PGP képernyőképeket tartalmazott a fiókok tweetjeiről, amelyeket bárki beírhatott a keresőbe a Twitter felhasználói felületén és visszanyerhette. Ezt megcsináltam a minden egyes fiók tweetjeihez, ellenőriztem a követőik és a posztjaik számát a PGP által jelentett adatok alapján, és ellenőriztem, hogy kik is voltak ők. Az egész folyamat kevesebb mint fél órámat vett igénybe. És képzelje el! Egyikőjük sem “bot, aki valódi emberekként álcázza magát.”

A PGP által kiválasztott öt fiókból, amelyek a példás bot hálózatok beszélgetésére kerültek, csak egyet nem ismertem fel. Ez egy brit kereskedelmi fiók volt, amely a Twittert használta, hogy népszerűsítse az eBay listáit különböző termékekről, beleértve az e-liquidet és a CBD-t. Úgy tűnt, hogy a fiók automatizálást használ a tweetek közzétételére? Igen. Voltak olyan jelek, hogy emberek nem állnak a tweetek mögött? Nem. Bármely ésszerű ember ezt tévedésnek vélte bármi másnak, mint egy online kereskedelmi cég kereskedelmi fiókjának? Nem. Volt bármilyen jel arra, hogy a fiók túllépett a saját követő hálózatán? Nem.

A négy fiók közül, melyet ismertem, három magánfiók volt, amelyek valódi vapelők, és nyilvánvalóan valódi emberek. A másik pedig a Twitter fiókja ennek a kiadványnak. A Vaping360 hírszerkesztője, Jim McDonald, kezeli és tweetel ebből a fiókból, és Jim nem egy bot.

Tehát az öt feltételezett bot közül: egy a vapelés kiadványa, amelyet az egyik újságíró irányít, aki azt használja cikkek közzétételére és más tweetelőkkel való interakcióra (tehát eredeti tartalmat posztol). Három magánszemély, akik a vapelést népszerűsítik. És a másik egy brit kiskereskedő. Rendkívül nehéz számomra elhinni, hogy bárki, aki ismeri bármelyik fiókot, azt következtetné, hogy ezek botok, akik emberekként álcázzák magukat. Vagy vállalkozások, akik egyes embereknek álcázzák magukat. Vagy vállalkozások, akik botokat használnak, hogy egyes embereknek álcázzák magukat. Vagy bárki, aki valamilyen rosszindulatú tevékenységben részt vesz, egyébként.

Ezért a PGP döntése, hogy eltakarja ezen öt fiók nevét, gyanúsnak tűnik. Először is, biztosak voltak abban, hogy lehetséges, hogy valaki, aki tudni akarja, hogy kik voltak a fiókok, ezt ki tudja deríteni az általuk elérhetővé tett információkkal. Tehát nem védték meg senki magánéletét, csak egy kicsit nehezebbé tették, hogy bárki, aki tudni akarja a fiókok személyazonosságát, megtalálja ezt az információt.

A képernyőképek, amelyeket a tweetek keresésére tudtam használni ezekből a fiókokból, tartalmaztak retweeteket és válaszokat az “alters”-tól, akik szintén nem botok - és nem tettek semmiféle intézkedést ezen fiókok személyazonosságának védelmére. A PGP képernyőképei felfedték a nevüket és a kezelőneveiket más fiókoknak a úgynevezett “botnetekben”, csak a központi botok (akik nem botok) kivételével.

Mindez miatt nehéz számomra elhinni, hogy a “botok” magánéletének védelme volt a fő oka a PGP fiók azonosítóinak eltakarásának. Nincs értelme, mert a védelem rendkívül könnyen megkerülhető volt bárki számára, mert a védelem nem terjedt ki a képernyőképeken megjelenő fiókokra, és mert a végén a PGP-nek sokkal nagyobb ösztönzése volt elrejteni ezt az információt saját védelme érdekében és a hibás jelentésük hitelességének megőrzése érdekében, mint bármi más.

A magánélet védelme vagy a színpadon maradás?

Szeretném tudni, miért publikált a PGP egy különböző verziót a jelentésből, mint amit a Wall Street Journalnal megosztottak. Nyilvánvalóan hasonlóan gondolta Gregory Conley is, aki arra kérte őket, hogy számoltassák el ezt a választ Twitteren. A PGP válasza neki a következő volt:

“A WSJ exkluzív volt a kutatásra, és megosztottunk információkat a megbízhatósági ellenőrzés során. Egy ponton megosztottunk 5 fiókot, amelyeknek magas automatizálási pontszámuk volt, a 1 millió + elemzett üzenet közül. Nem akartuk, hogy ezek a fiókok céltáblává váljanak. Tehát sem a cikk, sem a jelentés nem említi őket.”

A PGP itt arra utal, hogy a botneteket a Wall Street Journalnak nyújtották, mint további kontextust a végső tanulmányhoz. Ha a hibásnak tekintett elemzés, amelyet felhívtam a figyelmet, valójában soha nem volt szándékolva a nyilvánosság számára, és csak néhány további anyag volt, amelyet a jelentés mellett küldtek a Journalhoz, az nem változtat azon a tényen, hogy aláásja az egész tanulmány érvényességét.

De nehéz elhinni, hogy nem szándékoztak ezt a végső verzióba beletenni. A szakasz szerepelt a jelentés tartalomjegyzékében, amelyet elküldtek nekem. Ez volt a kutatási eredményeik kulcsfontosságú része, a „botnetek” keretezve voltak, mint az absztrakt jelenség illusztrációi, amelyet állításuk szerint a jelentésük megvilágított. Nem volt jel arra, hogy ez a tartalom ne lett volna szándékolva a végső jelentés fő részének.

Az volt a benyomásom, hogy amit kaptam, az a végleges jelentés volt, és amikor ezt az elemzést durva hibákkal (és etikátlanul) megjelöltem, soha nem mondták el, hogy ez egy felületes része a tanulmánynak vagy különleges a Wall Street Journal számára. Bár biztosat nem mondhatok, a riporter, aki elküldte nekem, szintén azt a benyomást keltette, hogy ez volt a végső verzió. És tényleg, ki küldene egy áttörő jelentés munkadrafját egy újságnak, amelynek exkluzív ajánlatot teszel? Ez tényleg nem értelmes. A dokumentum, amely tartalmazta a most törölt botnet elemzést, kifinomult volt, a törölt szakasz a tartalomjegyzék része volt, semmi sem jelezte, hogy ez ne lett volna szándékolva a végső terméknek.

Ha a PGP rájött, milyen súlyosan elrontották ezt az elemzést, akkor fel kellett volna vetnie bennük a teljes kutatásuk érvényességét. A felelős, intellektuálisan becsületes és átlátható lépés itt az lett volna, hogy megkérjék az újságot, hogy tartsa vissza vagy mondja le a cikkét, hogy a jelentést kijavíthassák, vagy talán, ha a hibák olyan súlyosak, akkor feladják. Legalább annyit fel kellett volna tüntetni, hogy a Journalnak elküldött verzió különbözött az weboldalon közzétett végleges verziótól.

Azt hiszem, a PGP eltávolította azokat az oldalakat, miután megértették a súlyos hibák nyilvánvalóságát, amelyeket elkövettek. Minden más tekintetben aláásták a normális tudományos folyamatokat e munkában. Miért kellene nekem—miért kellene bárkinek—elhinni, hogy érdekli őket bármi azon kívül, hogy megőrizzék a tekintélyüket? Ha a PGP-nek van bármilyen konkrét bizonyítéka, amely alátámasztja azt az állításukat, hogy a döntés, hogy eltávolítják ezt a szakaszt, nem volt összefüggésben azzal, hogy a botnetjeik valójában nem botnetek, akkor elő kellene állniuk ezzel.

Az igazolható tiltakozók dehumanizálása

A PGP jelentése egy kifinomult bot-hálózat képét festi, amelyet úgy terveztek, hogy megtévessze az embereket, és elhitesse velük, hogy ők egyedi emberek, azért, hogy manipulálják a vaper diskurzust. Az a tény, hogy egyik legjobb példájuk sem rendelkezett e típusú felhasználói fiók jellemzőivel (és négy közülük valóban olyan emberek voltak, akiket ismertem), komoly kérdéseket vet fel az egész vállalkozás megbízhatóságával kapcsolatban.

A vaper-advokációs szféra a Twitteren egy lazán összekapcsolt közösség az egyéni állampolgárok körében, akik a legtöbb magánszociális médiás fiókjukat egy specifikus kontextusban használják. Ezek az emberek nem a Twitteren az opportunista „közpublic health monitoring and communication” kutatók érdekében vannak, akiknek van mit nyerjenek az általuk generált tartalom betakarításával, és a kiemelésük kontextusából való kiemelésével, hogy illusztrálják egy vadul hihetetlen és intellektuálisan tiszteletteljes elméletet, miszerint a befolyásos vaper szószólók nem többek, mint egy kifinomult, rosszindulatú botok hálózata, akik álszentül embereként lépnek fel, hogy félretájékoztatást terjesszenek egy névtelen, arctalan, vállalati hatalom érdekében.

Nem vagyok biztos benne, hogy a látható tisztelettelenség, amely a PGP jelentést áthatja, a szervezet kísérlete a közvélemény megtévesztésére tükröződik, vagy inkább azt tükrözi, hogy megcsalták önmagukat.

De nem számít. Törölt „botnetek” szakasz nélkül vagy anélkül a PGP jelentése teljes mértékben etikátlan. Ez a jelentés nem arról szólt, hogy hozzájáruljon a vaper-advocacy tudáshoz, hanem arról, hogy médiakáoszt teremtsen egy sokkoló felfedezés körül, ami valójában nem is létezik. Ezt egy magán, névtelen piackutató csoport végezte, akik vagy nem értik, vagy nem törődnek a transzparens, érvényes és megbízható tudományos munka normáival. Figyelmen kívül hagyták a közvetlen hatalmi aszimmetriát a vaper tweeter-kutatók és a Twittert használó valódi emberek között, akik a vaper-advocacyért szorgalmaznak.

A PGP jelentése propaganda, amelynek célja az igazolható tiltakozók dehumanizálása, az ügyük diszkreditálása, és a közösségi médiában a beszédük cenzúrázása. A jelentést tudományos lepel alatt mutatták be, de teljes mértékben politikai célok szolgálatára készült.

További olvasmányok javasoltak: