Sztuczna inteligencja dźwiękowa jest szkolona na danych zawierających uprzedzenia i obraźliwy język

Modele sztucznej inteligencji generujące dźwięki są trenowane na zestawach danych, które mogą być obarczone poważnymi problemami, takimi jak uprzedzenia, obraźliwy język czy potencjalne naruszenia praw autorskich. Te kwestie budzą coraz większe obawy co do przyszłego zastosowania takich technologii.

Generatywne narzędzia audio, takie jak aplikacje do tworzenia piosenek, klonowania głosu czy usługi transkrypcji, zyskują na popularności. Jednak w przeciwieństwie do generatorów tekstu i obrazów, które były poddawane intensywnym analizom, modele generujące dźwięk pozostają w dużej mierze poza głównym nurtem dyskusji na temat ich etyczności, bezpieczeństwa i odpowiedzialności prawnej.

William Agnew z Carnegie Mellon University w Pensylwanii, jeden z badaczy, zwraca uwagę na to, że audio jako medium jest szczególnie zaniedbane w kontekście oceny jakości danych treningowych dla sztucznej inteligencji. Chociaż wiele uwagi poświęca się treściom tekstowym i wizualnym, audio – mimo jego istotnej roli w codziennym życiu – nie otrzymuje odpowiedniej uwagi badawczej.

Problemy związane z danymi treningowymi

Zestawy danych wykorzystywane do trenowania modeli sztucznej inteligencji zawierających dźwięk, takie jak nagrania głosowe czy muzyka, mogą być obarczone różnorodnymi wadami. Po pierwsze, mogą zawierać treści nacechowane uprzedzeniami, co może prowadzić do tworzenia narzędzi, które reprodukują te same problemy społeczno-kulturowe. Na przykład, narzędzia klonujące głos mogą niepoprawnie odwzorowywać akcenty, dialekty czy style mowy, co może prowadzić do stygmatyzacji czy błędnych wniosków na temat określonych grup społecznych.

Po drugie, istnieje ryzyko, że modele oparte na generatywnej sztucznej inteligencji będą korzystać z danych objętych prawami autorskimi, co w skrajnym przypadku może prowadzić do naruszenia prawa. Klonowanie głosu znanych osób czy generowanie muzyki bardzo zbliżonej do znanych utworów bez zgody twórców to obszary, które mogą prowadzić do licznych sporów prawnych.

Niewystarczająca regulacja i nadzór

Mimo rosnącej popularności narzędzi generatywnych, takich jak generator muzyki czy klonowanie głosu, obszar ten wciąż jest słabo regulowany. W porównaniu z technologiami przetwarzania obrazu, gdzie narzędzia takie jak te wykorzystywane do tworzenia deepfake’ów zostały już poddane surowszym regulacjom, generatywna sztuczna inteligencja zajmująca się dźwiękiem nie zyskała jeszcze odpowiedniego zainteresowania ze strony prawodawców.

Brak regulacji może prowadzić do sytuacji, w której modele AI będą reprodukowały szkodliwe zachowania, które w innych mediach zostałyby natychmiast wyeliminowane. W przypadku treści dźwiękowych trudniej jest jednak wykryć i zweryfikować te problemy – zwłaszcza że wiele narzędzi generatywnych działa w sposób zautomatyzowany i może produkować ogromne ilości danych w krótkim czasie.

Potencjalne ścieżki rozwoju

Aby poprawić jakość generatywnych narzędzi audio, badacze proponują kilka rozwiązań. Jednym z nich jest stworzenie bardziej przejrzystych i jednolitych standardów etycznych dla modeli sztucznej inteligencji trenowanych na danych dźwiękowych. Oznacza to, że twórcy aplikacji audio musieliby dokładnie sprawdzać, na jakich danych trenują swoje modele, oraz eliminować te, które mogą prowadzić do reprodukcji negatywnych treści.

Innym rozwiązaniem jest większa współpraca między specjalistami zajmującymi się sztuczną inteligencją a ekspertami od praw autorskich oraz badaczami zajmującymi się różnorodnością kulturową. Tylko poprzez interdyscyplinarne podejście można zminimalizować zagrożenia związane z uprzedzeniami i naruszeniami prawa.

Wnioski

Generatywne narzędzia audio to fascynująca i dynamicznie rozwijająca się dziedzina, która ma ogromny potencjał komercyjny i kreatywny. Jednak aby technologie te były bezpieczne i odpowiedzialne, niezbędne jest wprowadzenie odpowiednich regulacji oraz zapewnienie, że dane treningowe są wolne od uprzedzeń, obraźliwych treści i zagrożeń prawnych.

Rozwój narzędzi opartych na sztucznej inteligencji powinien iść w parze z odpowiedzialnością twórców i użytkowników, aby zapewnić, że technologie te będą służyły społeczeństwu w sposób pozytywny i konstruktywny.