Een app verwijdert kleding van vrouwenfoto's en het is een walgelijk geval van hoe AI wordt misbruikt
Disclaimer: de inhoud van dit verhaal is 'Not Safe For Work', dus ga voorzichtig te werk. MensXP is ook niet de bron of promoot de software. Het idee achter het verhaal is om mensen bewust te maken van wat AI kan doen als het wordt misbruikt.
Er zijn dagen dat we ons overweldigd voelen door alle technologische vooruitgang die de wereld ten goede heeft veranderd. En dan zijn er dagen als deze waarop we ons vreselijk en walgelijk voelen als we nadenken over alle vreselijke dingen die technologie kan doen.
De meesten van jullie hebben misschien het woord 'Deepfakes', toch? Nou, als je dacht dat dat verschrikkelijk was, dan zul je doodsbang zijn om over deze nieuwe software te horen, die ik natuurlijk niet ga noemen. Het is een walgelijke software en ik kan zijn naam op geen enkele manier bekendmaken en promoten.
Het is een stukje software dat de kracht van AI en neurale netwerken gebruikt om nep-naaktfoto's van vrouwen te maken. Ja, ik weet wat je nu denkt. Het is inderdaad een walgelijke app die in de eerste plaats niet zou moeten bestaan. Ik was zelfs behoorlijk geschokt toen ik ontdekte hoe gemakkelijk het is om het te downloaden en te gebruiken. Ik ben sterk van mening dat het zo snel mogelijk moet worden verwijderd, voordat mensen het in handen krijgen en het gaan misbruiken in bijvoorbeeld een werkplek of openbare ruimtes. Denk bijvoorbeeld aan wat er gebeurt als / wanneer het in verkeerde handen komt. Ik wil niet eens nadenken over wat er gebeurt als perverse mensen en pedofielen het gaan gebruiken.
Kortom, de software kan een foto van een perfect geklede persoon veranderen in een realistisch uitziend naakt beeld van dezelfde persoon. Ik geloof dat je weet wat het doet, dus ik ga het niet hardop spellen. Dit is wat de software kan doen.
De software werkt dus alleen op afbeeldingen van vrouwen. Ja, de mensen die dit hebben gemaakt, waren erg kieskeurig over wat ze wilden maken, en het werkt verrassend goed. Volgens Moederbord , lijkt het het beste te werken op afbeeldingen waar de persoon al veel huid laat zien, bijvoorbeeld een badpak.
De mensen die dit hebben gemaakt, hebben letterlijk een website opgezet om de software gratis te downloaden. Er is ook een betaalde versie van de software die u extra functies biedt. Ik was niet van plan de app te downloaden om hem te bekijken, dus ik heb wat onderzoek gedaan.
Volgens de mensen die het hebben getest, werkt de software op zowel Windows- als Linux-machines en heb je absoluut geen expertise nodig om het te gebruiken. Ze zeggen dat het net zo eenvoudig is om een afbeelding bij te snijden in een eenvoudige foto-editor. Ik ga niet eens de moeite nemen om meer afbeeldingen toe te voegen en de app te promoten, maar op basis van de resultaten die ik heb gezien, lijkt het erg nauwkeurig te werken.
lichtgewicht backpacktent voor één persoon
Dit is wat de anonieme maker van de app zei toen hem werd gevraagd waarom hij zo'n eng stuk software had gemaakt:
Ongeveer twee jaar geleden ontdekte ik het potentieel van AI en begon ik de basis te bestuderen. Toen ik ontdekte dat GAN-netwerken een foto overdag in een nachtfoto konden veranderen, realiseerde ik me dat het mogelijk zou zijn om een geklede foto in een naakte foto te veranderen. Eureka. Ik realiseerde me dat een röntgenbril mogelijk is! Gedreven door plezier en enthousiasme voor die ontdekking, deed ik mijn eerste tests en behaalde ik interessante resultaten.
Eerlijk gezegd maakt het niet uit waarom hij het heeft gemaakt. Wij mensen zouden ons meer zorgen moeten maken over het feit dat dit soort software in deze wereld bestaat en dat iedereen, zoals letterlijk iedereen, het kan downloaden en nep-naaktfoto's kan maken die er helaas heel echt uitzien.
Het idee om zelf deepfakes te maken was eng, maar dit tilt de dingen gewoon naar een ander niveau. De reden waarom het een nog grotere zorg is, is dat een app als deze gemakkelijk toegankelijk en gemakkelijker te gebruiken is dan deepfake. Het feit dat het net zo eenvoudig is als het installeren en spelen als een videogame, maakt me bang.
Ik hoop echt dat de systemen beter worden in het detecteren van deepfakes. Ik kan me alleen maar voorstellen hoe dit kan worden misbruikt als het in verkeerde handen komt. Het is gruwelijk om te zeggen dat deepfakes en apps zoals deze nauwelijks het oppervlak van AI kunnen bekrassen. Het lijkt erop dat we gedoemd zullen zijn als er geen goede regelgeving is voor het gebruik van AI.
Bron: ondeugd
Wat denk je er van?
Begin een gesprek, geen vuur. Post met vriendelijkheid.
Plaats een reactie
