2025. május 30., péntek - Zsanett, Janka

Üzleti hírszerzés és biztonság

Egy teljesen személytelen mondatból is képes személyes adatokra következtetni a mesterséges intelligencia

2023-10-20 3068

Ma már a chatbotok tudása (azaz a beléjük táplált információmennyiség) olyan hatalmas, hogy mintázatok észlelésével olyan dolgokat deríthetők ki általuk személytelennek tűnő csevegésekből, amire a hús-vér emberek sohasem gondolnának.

Bár vannak mondatok (például ha valaki autóvezetési élményéről beszél), amelyekből következtethetünk nyilvánvaló tényekre (mondjuk hogy az illetőnek van jogosítványa), a világ legnépszerűbb mesterséges intelligencia-csevegőrobotjainak alapját képező nagy nyelvi modellek (LLM-ek) sokkal többre képesek ennél. Az OpenAI, a Meta, a Google és az Anthropic LLM-jeit tesztelő kutatók egy csoportja számos olyan példát talált, ahol a modellek pontosan tudtak következtetni a felhasználó rasszára, foglalkozására, tartózkodási helyére és egyéb személyes adataira, mindezt látszólag semleges csevegésekből.

A kutatók – magyarázza a Gizmodo – úgy tesztelték az LLM-ek következtetési képességét, hogy egy több mint 500 Reddit profilból származó megjegyzések adatbázisából származó szövegrészleteket tápláltak a chatbotokba. Az LLM-eknek küldött szöveg gyakran nem tartalmazott „Texasból származom” vagy „a harmincas éveim közepén járok” sorokat, ehelyett árnyaltabb párbeszédekről volt szó, ahol a használt szavak, a megfogalmazások engedtek bepillantást a felhasználók hátterébe. Az OpenAI GPT4 modellje például 85 és 95 százalék közötti pontossággal tudott pontosan következtetni a személyes információkra ezekből a bejegyzésekből.

A tanulmányban részt vevő kutatók egyike szerint egy LLM nagy valószínűséggel tud arra következtetni egy felhasználó bőrszínére, miután kapott egy üzenetsort arról, hogy az illető valahol egy New York-i étterem közelében lakik. A modell képes volt meghatározni az étterem elhelyezkedését, majd a képzési adatbázisában tárolt népességstatisztikák felhasználásával ezt a következtetést vonta le.

A kutatók arra is figyelmeztetnek, hogy az LLM-ek effajta „tudásával” a rosszindulatú szereplők is visszaélhetnek. Egy hacker például megpróbálhatja a nagy nyelvi modelleket felhasználni egy személy tartózkodási helyének kiderítésére. S ha ez még nem volna elég, a szakemberek egy még nagyobb veszélyt is emlegetnek. Hamarosan az internetfelhasználók rendszeresen kapcsolatba léphetnek számos egyéni vagy egyedi LLM chatbottal. A rosszindulatú szereplők potenciálisan „terelhetik a beszélgetéseket”, hogy finoman rávegyék a felhasználókat arra, hogy minél több személyes információt adjanak át ezeknek a chatbotoknak anélkül, hogy ezt észrevennék.

I Forrás: hvg.hu

Hírfigyelő

Kiváncsi, mit írnak a versenytársakról? Elsőként olvasná a szakmájával kapcsolatos információkat? Kulcsemberekre, projektekre, konkurensekre figyelne? Segítünk!

info@ogh.hu

 

 


 

Tipp

Időrendben

« Május 2025 »
H K Sze Cs P Szo V
      1 2 3 4
5 6 7 8 9 10 11
12 13 14 15 16 17 18
19 20 21 22 23 24 25
26 27 28 29 30 31  

Tartalom galéria

Kutatás: a dolgozók visszatérnének, de már nem bármilyen irodába

Kutatás: a dolgozók visszatérnének, de már nem bármilyen irodába

More details
Hétvégi tippek, kulturális programajánló

Hétvégi tippek, kulturális programajánló

More details
Ki kapja majd az uniós pénzeket az EU költségvetéséből? - 2025. június 11.

Ki kapja majd az uniós pénzeket az EU költségvetéséből? - 2025. június 11.

More details
Kelet - magyarországi Gazdasági Fórum, 2025. június 4.

Kelet - magyarországi Gazdasági Fórum, 2025. június 4.

More details
Terjed a fauxductivity jelenség a fiatalok között! De mi is az?

Terjed a fauxductivity jelenség a fiatalok között! De mi is az?

More details
Kecskeméti Animációs Filmfesztivál, 2025. május 27. - június 1.

Kecskeméti Animációs Filmfesztivál, 2025. május 27. - június 1.

More details
Zsigmond Vilmos Nemzetközi Filmfesztivál, 2025. május 27-31.

Zsigmond Vilmos Nemzetközi Filmfesztivál, 2025. május 27-31.

More details
Friss Hús Nemzetközi Rövidfilmfesztivál, 2025. május 29. - június 4.

Friss Hús Nemzetközi Rövidfilmfesztivál, 2025. május 29. - június 4.

More details
Blockchain és kriptovaluta a kereskedelmi ingatlanbefektetések területén

Blockchain és kriptovaluta a kereskedelmi ingatlanbefektetések területén

More details
Az Üzleti Hírszerzés portál kiadója az O|G|H - Open Gates Hungary Kft. - O|G|H - a hír szerzője