Midjourney закрывае бясплатныя пробныя версіі свайго генератара малюнкаў штучным інтэлектам з-за «надзвычайнага» злоўжывання
Інструмент выкарыстоўваўся, у прыватнасці, для падробкі выяваў Трампа і Папы.
Midjourney спыняе бясплатнае выкарыстанне свайго генератара малюнкаў штучным інтэлектам (ШІ) пасля таго, як людзі стварылі гучныя дыпфэйкі з дапамогай гэтага інструмента. Генеральны дырэктар Дэвід Хольц кажа, што кампанія спыняе бясплатныя пробныя версіі з-за «надзвычайнага попыту і злоўжыванняў імі», паведамляе Engaget. Паводле Хольца, новых мер бяспекі не было дастаткова для прадухілення няправільнага выкарыстання падчас выпрабавальнага перыяду. На гэты момант вам давядзецца плаціць не менш за 10 даляраў на месяц за выкарыстанне гэтай тэхналогіі.
У апошнія тыдні Midjourney зноў аказаўся ў цэнтры ўвагі. Карыстальнікі абапіраліся на ШІ, каб стварыць дыпфэйк-выявы арышту Дональда Трампа і Папы Францішка ў модным пухавіку. Нягледзячы на тое, што здымкі былі хутка ідэнтыфікаваныя як фальшывыя, існуе асцярога, што Midjourney, DALL-E ад OpenAI і падобныя генератары могуць выкарыстоўвацца для распаўсюджвання дэзынфармацыі.
Midjourney прызнала праблемы з распрацоўкай палітыкі ў дачыненні да кантэнту, так як ШІ забяспечвае ўсё больш рэалістычныя выявы. Яшчэ ў 2022 годзе Хольц абгрунтаваў забарону на выявы галоўнага кітайскага камуніста Сі Цзіньпіна жаданнем «мінімізаваць драму»: маўляў, важней мець любы доступ у Кітаі, чым дазваляць сатырычны кантэнт. Midjourney спадзяваецца палепшыць мадэрацыю ШІ, якая адсочвае злоўжыванні, кажа заснавальнік.
Некаторыя распрацоўшчыкі ўжо пачалі ўсталёўваць строгія правілы, каб прадухіліць інцыдэнты. OpenAI, напрыклад, забараняе любыя выявы бягучых палітычных падзей, тэорый змоў і палітыкаў. Таксама пад забарону трапляе прапаганда нянавісці, сэксуальнасць і гвалт.
Аднак іншыя канкурэнты пакуль маюць адносна свабодныя рэкамендацыі. Напрыклад, карыстальнікі інструмента Stable Diffusion не могуць капіяваць стылі пэўных мастакоў, а таксама ўключае новы фільтр NSFW (прызначаны сярод іншага для выдалення кантэнту для дарослых), але ж ШІ Stable Diffusion звычайна не дыктуе, што менавіта людзі могуць рабіць з яго дапамогай.
Зманлівы змест — не адзіная праблема для вытворчасці малюнкаў ШІ. Існуюць даўнія заклапочанасці наконт аўтарскіх правоў і скрадзенага кантэнту, бо часта даўно існуючыя выявы выкарыстоўваюцца ў якасці «пунктаў адліку» пры працы ШІ. І ў той час як некаторыя кампаніі ўжо напоўніцу выкарыстоўваюць штучны інтэлект у сваіх прадуктах, пакуль яшчэ існуе шмат ваганняў з боку фірмаў, якія баяцца атрымаць непажаданую ўвагу.
Цяпер чытаюць
Коўл Лукашэнку: Табе трэба быць больш асцярожным, за сталом кепскіх пацаноў застаўся адзін ты27
Каментары