2025. július 2., szerda - Ottó

Üzleti hírszerzés és biztonság

Egy teljesen személytelen mondatból is képes személyes adatokra következtetni a mesterséges intelligencia

2023-10-20 3076

Ma már a chatbotok tudása (azaz a beléjük táplált információmennyiség) olyan hatalmas, hogy mintázatok észlelésével olyan dolgokat deríthetők ki általuk személytelennek tűnő csevegésekből, amire a hús-vér emberek sohasem gondolnának.

Bár vannak mondatok (például ha valaki autóvezetési élményéről beszél), amelyekből következtethetünk nyilvánvaló tényekre (mondjuk hogy az illetőnek van jogosítványa), a világ legnépszerűbb mesterséges intelligencia-csevegőrobotjainak alapját képező nagy nyelvi modellek (LLM-ek) sokkal többre képesek ennél. Az OpenAI, a Meta, a Google és az Anthropic LLM-jeit tesztelő kutatók egy csoportja számos olyan példát talált, ahol a modellek pontosan tudtak következtetni a felhasználó rasszára, foglalkozására, tartózkodási helyére és egyéb személyes adataira, mindezt látszólag semleges csevegésekből.

A kutatók – magyarázza a Gizmodo – úgy tesztelték az LLM-ek következtetési képességét, hogy egy több mint 500 Reddit profilból származó megjegyzések adatbázisából származó szövegrészleteket tápláltak a chatbotokba. Az LLM-eknek küldött szöveg gyakran nem tartalmazott „Texasból származom” vagy „a harmincas éveim közepén járok” sorokat, ehelyett árnyaltabb párbeszédekről volt szó, ahol a használt szavak, a megfogalmazások engedtek bepillantást a felhasználók hátterébe. Az OpenAI GPT4 modellje például 85 és 95 százalék közötti pontossággal tudott pontosan következtetni a személyes információkra ezekből a bejegyzésekből.

A tanulmányban részt vevő kutatók egyike szerint egy LLM nagy valószínűséggel tud arra következtetni egy felhasználó bőrszínére, miután kapott egy üzenetsort arról, hogy az illető valahol egy New York-i étterem közelében lakik. A modell képes volt meghatározni az étterem elhelyezkedését, majd a képzési adatbázisában tárolt népességstatisztikák felhasználásával ezt a következtetést vonta le.

A kutatók arra is figyelmeztetnek, hogy az LLM-ek effajta „tudásával” a rosszindulatú szereplők is visszaélhetnek. Egy hacker például megpróbálhatja a nagy nyelvi modelleket felhasználni egy személy tartózkodási helyének kiderítésére. S ha ez még nem volna elég, a szakemberek egy még nagyobb veszélyt is emlegetnek. Hamarosan az internetfelhasználók rendszeresen kapcsolatba léphetnek számos egyéni vagy egyedi LLM chatbottal. A rosszindulatú szereplők potenciálisan „terelhetik a beszélgetéseket”, hogy finoman rávegyék a felhasználókat arra, hogy minél több személyes információt adjanak át ezeknek a chatbotoknak anélkül, hogy ezt észrevennék.

I Forrás: hvg.hu

Hírfigyelő

Kiváncsi, mit írnak a versenytársakról? Elsőként olvasná a szakmájával kapcsolatos információkat? Kulcsemberekre, projektekre, konkurensekre figyelne? Segítünk!

Ez az e-mail-cím a szpemrobotok elleni védelem alatt áll. Megtekintéséhez engedélyeznie kell a JavaScript használatát.

 

 


 

Tipp

Időrendben

« Július 2025 »
H K Sze Cs P Szo V
  1 2 3 4 5 6
7 8 9 10 11 12 13
14 15 16 17 18 19 20
21 22 23 24 25 26 27
28 29 30 31      

Tartalom galéria

Levált a Generali-torony tetején lévő nagy méretű reklámfelirat

Levált a Generali-torony tetején lévő nagy méretű reklámfelirat

More details
BREEAM „Very Good” minősítést szerzett a Liget Center Vitrum

BREEAM „Very Good” minősítést szerzett a Liget Center Vitrum

More details
Vessük bele magunkat a medenceszezonba!

Vessük bele magunkat a medenceszezonba!

More details
Közép- és Kelet-Európa belép az MI-tehetségekért folytatott versenybe

Közép- és Kelet-Európa belép az MI-tehetségekért folytatott versenybe

More details
Égető problémákra hívta fel a figyelmet a spanyolországi áramszünet

Égető problémákra hívta fel a figyelmet a spanyolországi áramszünet

More details
Elfogadta az Országgyűlés az új adószabályokat: változások nem csak 2026-ra, de már az idei évre is!

Elfogadta az Országgyűlés az új adószabályokat: változások nem csak 2026-ra, de már az idei évre is!

More details
Változások küszöbén az európai szállodaipar

Változások küszöbén az európai szállodaipar

More details
Környezetbarát, magyar fejlesztésű drónnal tisztították meg a Müpa homlokzatát

Környezetbarát, magyar fejlesztésű drónnal tisztították meg a Müpa homlokzatát

More details
A Colliers Romániát bízták meg bevásárlóközpontok újrapozicionálásával

A Colliers Romániát bízták meg bevásárlóközpontok újrapozicionálásával

More details
Az Üzleti Hírszerzés portál kiadója az O|G|H - Open Gates Hungary Kft. - O|G|H - a hír szerzője