2025. szeptember 7., vasárnap - Regina

Üzleti hírszerzés és biztonság

Egy teljesen személytelen mondatból is képes személyes adatokra következtetni a mesterséges intelligencia

2023-10-20 3110

Ma már a chatbotok tudása (azaz a beléjük táplált információmennyiség) olyan hatalmas, hogy mintázatok észlelésével olyan dolgokat deríthetők ki általuk személytelennek tűnő csevegésekből, amire a hús-vér emberek sohasem gondolnának.

Bár vannak mondatok (például ha valaki autóvezetési élményéről beszél), amelyekből következtethetünk nyilvánvaló tényekre (mondjuk hogy az illetőnek van jogosítványa), a világ legnépszerűbb mesterséges intelligencia-csevegőrobotjainak alapját képező nagy nyelvi modellek (LLM-ek) sokkal többre képesek ennél. Az OpenAI, a Meta, a Google és az Anthropic LLM-jeit tesztelő kutatók egy csoportja számos olyan példát talált, ahol a modellek pontosan tudtak következtetni a felhasználó rasszára, foglalkozására, tartózkodási helyére és egyéb személyes adataira, mindezt látszólag semleges csevegésekből.

A kutatók – magyarázza a Gizmodo – úgy tesztelték az LLM-ek következtetési képességét, hogy egy több mint 500 Reddit profilból származó megjegyzések adatbázisából származó szövegrészleteket tápláltak a chatbotokba. Az LLM-eknek küldött szöveg gyakran nem tartalmazott „Texasból származom” vagy „a harmincas éveim közepén járok” sorokat, ehelyett árnyaltabb párbeszédekről volt szó, ahol a használt szavak, a megfogalmazások engedtek bepillantást a felhasználók hátterébe. Az OpenAI GPT4 modellje például 85 és 95 százalék közötti pontossággal tudott pontosan következtetni a személyes információkra ezekből a bejegyzésekből.

A tanulmányban részt vevő kutatók egyike szerint egy LLM nagy valószínűséggel tud arra következtetni egy felhasználó bőrszínére, miután kapott egy üzenetsort arról, hogy az illető valahol egy New York-i étterem közelében lakik. A modell képes volt meghatározni az étterem elhelyezkedését, majd a képzési adatbázisában tárolt népességstatisztikák felhasználásával ezt a következtetést vonta le.

A kutatók arra is figyelmeztetnek, hogy az LLM-ek effajta „tudásával” a rosszindulatú szereplők is visszaélhetnek. Egy hacker például megpróbálhatja a nagy nyelvi modelleket felhasználni egy személy tartózkodási helyének kiderítésére. S ha ez még nem volna elég, a szakemberek egy még nagyobb veszélyt is emlegetnek. Hamarosan az internetfelhasználók rendszeresen kapcsolatba léphetnek számos egyéni vagy egyedi LLM chatbottal. A rosszindulatú szereplők potenciálisan „terelhetik a beszélgetéseket”, hogy finoman rávegyék a felhasználókat arra, hogy minél több személyes információt adjanak át ezeknek a chatbotoknak anélkül, hogy ezt észrevennék.

I Forrás: hvg.hu

Hírfigyelő

Kiváncsi, mit írnak a versenytársakról? Elsőként olvasná a szakmájával kapcsolatos információkat? Kulcsemberekre, projektekre, konkurensekre figyelne? Segítünk!

Ez az e-mail-cím a szpemrobotok elleni védelem alatt áll. Megtekintéséhez engedélyeznie kell a JavaScript használatát.

 

 


 

Tipp

Időrendben

« Szeptember 2025 »
H K Sze Cs P Szo V
1 2 3 4 5 6 7
8 9 10 11 12 13 14
15 16 17 18 19 20 21
22 23 24 25 26 27 28
29 30          

Tartalom galéria

Vár az autóipar és az okosvárosok világa, 2025. szeptember 18.

Vár az autóipar és az okosvárosok világa, 2025. szeptember 18.

More details
10. Közép-Európai Esküvő Kiállítás, 2025. november 8-9.

10. Közép-Európai Esküvő Kiállítás, 2025. november 8-9.

More details
Az adatközpontok jövője Budapesten, 2025. szeptember 30.

Az adatközpontok jövője Budapesten, 2025. szeptember 30.

More details
HUNGULF 2025 Expó és Vásár, 2025. szeptember 27.

HUNGULF 2025 Expó és Vásár, 2025. szeptember 27.

More details
Hasznos, vagy veszélyes? Kié a felelősség?

Hasznos, vagy veszélyes? Kié a felelősség?

More details
Bérlakás mint befektetés: a csökkenő hozamok ellenére még mindig megéri?

Bérlakás mint befektetés: a csökkenő hozamok ellenére még mindig megéri?

More details
A jövő logisztikájának öt megatrendje

A jövő logisztikájának öt megatrendje

More details
Vagyonokat költünk arcszérumokra, de a testünk bőre csendben öregszik

Vagyonokat költünk arcszérumokra, de a testünk bőre csendben öregszik

More details
A digitális nomádok megszállják a turizmus fellegvárait

A digitális nomádok megszállják a turizmus fellegvárait

More details
Az Üzleti Hírszerzés portál kiadója az O|G|H - Open Gates Hungary Kft. - O|G|H - a hír szerzője