Midjourney zamyka bezpłatne wersje próbne po viralach AI

Midjourney, czyli oprogramowanie umożliwiające tworzenie obrazów na podstawie monitów tekstowych, zamknął bezpłatne wersje próbne swojego generatora wykorzystującego sztuczną inteligencję po tym, jak część stworzonych przy pomocy tego algorytmu obrazów stała się viralami.

Założyciel Midjourney David Holz ogłosił, że "ze względu na nadzwyczajny popyt i nadużycia związane z próbnymi wersjami tymczasowo wyłączamy dostęp do nich, dopóki nie uda się wdrożyć kolejnych ulepszeń systemu". Stanowisko to pojawiło się po serii głośnych obrazów wygenerowanych przez sztuczną inteligencję, które rozprzestrzeniły się wirusowo w sieci.

W internecie zaczęły żyć własnym życiem rzekome zdjęcia wykonane podczas aresztowania Donalda Trupa. Miliony ludzi uwierzyło, że są to prawdziwe zdjęcia. Obrazy te zostały opracowane z wykorzystaniem algorytmów przez Eliota Higginsa, założyciela strony internetowej Bellingcat, który w międzyczasie został wyrzucony z Midjourney.

Wirusowe zdjęcia, ukazujące rzekomy moment aresztowania Donalda Trumpa, które w rzeczywistości są obrazami wygenerowanym przez sztuczną inteligencję

Obraz ukazującyPapieża Franciszka w puchowej kurtce, który w rzeczywistości jest tworem sztucznej inteligencji.

Całkiem niedawno inny obraz opracowany przy użyciu sztucznej inteligencji w Midjourney v5 przedstawiający papieża Franciszka w białej, puchowej kurtce wprowadził w błąd wielu ludzi, którzy uwierzyli, że to autentyczna fotografia. Autor obrazu Pablo Xavier opublikował zdjęcia na grupie na Facebooku o nazwie AI Art Universe, a następnie zdjęcia pojawiły się na Reddicie, skąd rozprzestrzeniły się wirusowo.

W międzyczasie pojawili się oszuści, wykorzystujący obrazy generowane przez sztuczną inteligencję i technikę Deep fake do wprowadzania w błąd ludzi. Jedna kobieta straciła w ten sposób aż 430 000 dolarów (niemal 1 900 000 złotych).

W odpowiedzi na zalew obrazów ukazujących rzekome aresztowanie byłego prezydenta USA Donalda Trupa, w Midjourney zakazano używania w monitach tekstowych służących do generowania obrazów słowa "aresztowanie". Niemniej da się to obejść, wykorzystując inne słowa.

W związku z ytm wydarzeniem nasiliły się obawy co do bezpieczeństwa stosowania sztucznej inteligencji. Zdolności tej technologii gwałtownie wzrosły w ciągu ostatnich kilku miesięcy, w efekcie czego Elon Musk i inne osobistości związane z branżą technologiczną wezwały w publicznym liście do zrobienia przerwy w eksperymentowaniu ze sztuczną inteligencją, tak aby twórcy najbardziej zaawansowanych algorytmów mogli wypracować odpowiednie procedury bezpieczeństwa.

Pytanie brzmi - czy takie procedury są możliwe do opracowania i wdrożenia i czy da się zatrzymać obecny proces?