Задача фильтрации контента для функций Galaxy AI в устройствах Samsung так же сложна, как и ограничение контента для моделей крупных языков. В некоторых случаях корейский производитель явно преувеличен, по словам пользователей Android Authority Reddit и Android.
Один из пользователей в Reddit поручил AI Galaxy проверить написание простых цветовых фраз кожи. Система завершила задачу, когда была представлена фразы «моя кожа белая» и «моя кожа темная», но отказалась работать с фразой «Моя кожа черная», которая показывает ненадлежащее содержание. Эксперимент дал те же результаты, когда он повторился журналистами на Android Authority, но они пошли дальше, изменив первого человека в предложениях третьей стороны. Затем AI Galaxy согласился работать только с фразой «его кожа темная», но он нашел неуместным «его кожа белая» и «его кожа черная».
С одной стороны, это имеет смысл, и сторонние фразы должны быть расстроены, потому что человек с большей вероятностью оскорбляет кого-то другого, чем сам. С другой стороны, помимо контекста, все эти выражения являются нейтральными и, очевидно, не являются умеренными.
Samsung еще не прокомментировал эти инциденты.
