Pixel Studio, aplikacja, która pobiera wiadomości tekstowe i zamienia je w obrazy, to jedna z nowych funkcji opartych na sztucznej inteligencji, wprowadzonych w serii Pixel 9. Może to być zabawny mały gadżet, ale z naszego doświadczenia wynika, że łatwo może się mylić.
Pixel Studio to aplikacja przeznaczona do tworzenia obrazów za pomocą podpowiedzi tekstowych. Aplikacja działa na tej samej zasadzie co Gemini i ImageFX, umożliwiając użytkownikom wprowadzenie tekstu i otrzymanie w zamian obrazu. Ale, jak w przypadku każdego szanowanego generatora obrazów, muszą obowiązywać ograniczenia.
W oświadczeniu do 9 do 17 w GoogleGoogle wyjaśnia, że zarówno Pixel Studio, jak i Magic Editor podlegają ograniczeniom, które mają „zapobiegać nadużyciom” przy jednoczesnym poszanowaniu „intencji twierdzeń użytkowników”, nawet jeśli mają one na celu utworzenie treści, które „mogą obrażać”, jeśli użytkownik bezpośrednio poprosi aplikację aby to zrobić.
Pixel Studio i Magic Editor to dwa przydatne narzędzia, które pozwalają uwolnić kreatywność podczas przekształcania tekstu na obraz i zaawansowanej edycji zdjęć na urządzeniach Pixel 9. Nasze narzędzia generatywnej sztucznej inteligencji zaprojektowaliśmy tak, aby uwzględniały intencje użytkowników. Oznacza to, że mogą generować treści które mogą urazić, gdy użytkownik o to poprosi. Jednak nic nie jest dozwolone. Mamy jasne narzędzia Zasady I Warunki świadczenia usług Informacje na temat rodzajów treści, na które zezwalamy lub których nie zezwalamy, oraz tworzenia zabezpieczeń zapobiegających nadużyciom. Czasami roszczenia mogą podważyć bariery ochronne tych narzędzi, dlatego nadal staramy się stale ulepszać i ulepszać nasze zabezpieczenia.
Przypomina to sytuację w Gemini, która obejmuje zabezpieczenia przed treściami obraźliwymi lub powodującymi podziały. Na przykład Google był krytykowany za niedokładne przedstawianie ludzi w kontekście historycznym, co skłoniło Google do „tymczasowego” wyłączenia możliwości tworzenia wizerunków ludzi, tak jak miało to miejsce przez ostatnie kilka miesięcy.
Podobnie jak Gemini, Pixel Studio nie może tworzyć zdjęć ludzi, ale odkryliśmy, że aplikacja może szybko Łatwo je wyrzucić z toru.
Przed dzisiejszym embargiem na recenzję Pixela 9 odkryliśmy, że Pixel Studio było w stanie tworzyć obrazy postaci z kreskówek noszących niemieckie mundury wojskowe z czasów II wojny światowej, w niektórych przypadkach opatrzone symbolami nazistowskimi. Kolejny niepokojący i niepokojący przykład, który widzieliśmy (od osób z godz Trendy cyfrowe Jedna osoba (która jako pierwsza odkryła te problemy) widziała postać strzelającą do szkoły otoczonej martwymi dziećmi, czego Google Models w ogóle nie powinno być w stanie wygenerować.
Ponieważ te wyniki zostały początkowo pokazane, wygląda na to, że podpowiedzi użyte do ich utworzenia zostały zablokowane przez Google na naszym Pixelu 9 Pro XL, ale… Trendy cyfrowe Mówią, że z części z nich nadal mogą korzystać.
Wszystko to sprawia, że barierki w Pixel Studio skutecznie zamienią się w niekończącą się zabawę polegającą na przesuwaniu. Gdzieś w jakiś sposób wiadomość przeniknie i stworzy coś, czego aplikacja nie powinna być w stanie zrobić, jeśli użyje tych samych barier co Gemini — sprawdziliśmy w Google i firma twierdzi, że „wszystkie narzędzia do przetwarzania tekstu na obraz” mają podobne wytyczne dotyczące niedozwolonego użycia”, z linkiem do Polityka sztucznej inteligencji.
Realistycznie rzecz biorąc, tego rodzaju rzeczy są nieuniknione w przypadku generowania obrazów AI. Jest to problem, z którym w pewnym stopniu borykają się prawie wszystkie generatory obrazów AI. Jak wyjaśnił Abner Lee w swojej dzisiejszej recenzji Pixela 9 Pro:
Jeśli chodzi o Pixel Studio, ogólnie uważam, że tworzenie obrazu to śliska sprawa, w której negatywy przeważają nad pozytywami. Zdecydowanie możesz zmusić go do tworzenia wątpliwych treści i nie sądzę, że jakakolwiek ilość poręczy może temu zapobiec.
Więcej o Google Pixelu 9:
Podążaj za Benem: Twitterze/X, WątkiI Instagrama
FTC: Korzystamy z linków partnerskich, aby automatycznie zarabiać. więcej.
