← Vissza a bloghoz

Rejtett deepfake funkciók az App Store-ban felfedezett AI appokban

Egy friss vizsgálat több mint 400 olyan alkalmazást azonosított az App Store-ban, amelyek rejtett szexuális és erőszakos deepfake funkciókat tartalmaznak. Ezek az appok, amelyeket állítólag egyetlen kínai szervezet készített, lehetővé teszik a felhasználók számára, hogy fotókat töltsenek fel, majd azokat explicit képekké és videókká alakítsák át. Az alkalmazások között található például a Viefur, amely látszólag ártalmatlan szolgáltatásokat kínál, mint például állatfotókhoz való ruházat hozzáadása.

A vizsgálat megállapította, hogy ezek az alkalmazások gyakran hétköznapi szolgáltatásokat hirdetnek, mint például nyelvtanulás vagy fitnesz edzők, de bizonyos feltételek mellett átváltanak egy webes felületre, amely explicit tartalmak létrehozását teszi lehetővé. A Wired szerint a hálózat nyíltan működik, köszönhetően a Facebookon és Instagramon megjelenő több ezer videóhirdetésnek, amelyek az alkalmazások népszerűsítésére szolgálnak.

A problémát súlyosbítja, hogy ezek az alkalmazások már több mint egy éve jelen vannak, és átmentek az Apple, a Google és a Meta ellenőrzésein, annak ellenére, hogy mindhárom vállalat világos irányelvekkel rendelkezik a káros deepfake tartalmak ellen. Az app-ok által alkalmazott átverési taktika lehetővé tette, hogy a fejlesztők rejtett funkciókat aktiváljanak azután, hogy az alkalmazásokat már jóváhagyták.

A Meta már több mint 10,000 hirdetési fiókot blokkolt, amelyeket ezekhez az alkalmazásokhoz kapcsolódó domainekhez kötöttek. Az Apple is megerősítette a védelmi intézkedéseit, hogy megakadályozza az ilyen típusú átverések újbóli megjelenését. Az alkalmazások fejlesztői gyakran egy jóváhagyott tartalomforrásról váltanak át egy másik, pornográf tartalmakat szolgáltató weboldalra, miután az app már megkapta az engedélyt.

Ez az eset ismét rávilágít arra, hogy mennyire fontos a folyamatos ellenőrzés és a szigorúbb biztonsági intézkedések bevezetése a nagy tech cégek részéről, hogy megvédjék a felhasználókat az ilyen típusú visszaélésektől.

A lényeg röviden:

  • 400 alkalmazás rejtett deepfake funkciókkal azonosítva
  • A kínai szervezet által létrehozott appok explicit képeket hoznak létre
  • Meta több mint 10,000 hirdetési fiókot blokkolt
  • Az Apple és Google vizsgálatai ellenére is átmentek a jóváhagyáson
  • Az alkalmazások alattomosan váltanak pornográf tartalomra

Forrás: 9to5Mac

Facebook X

Kapcsolódó cikkek