생성형 AI가 보편화됨에 따라 이제 누구나 콘텐츠를 자유롭게 생산하고 유통할 수 있는 기본적인 틀이 마련되었다. 문제는 중립적인 성격을 띈 AI와 달린 인간은 중립적이지도 않고 절대적으로 선하지도 않다는데 있다. 자유라는 단어 아래에서 거침없는 표현은 누군가에게 피해를 줄 수도 있고 법적으로 문제가 생길 수도 있다. Trust and Safety는 완벽하지 않은 인간을 위해 문제를 최소화하여 사회적 피해를 줄이고자 하는 기본 개념이라고 생각하였다. 모두가 자유롭고 모두가 안전하기 위해서 인간은 언제나 사회적 합의를 필요로 해왔다.
AX 터뷸런스를 읽으면서 사전 안전 설계(Safety by Design)라는 개념이 아주 중요하다고 생각되었다. 먼저 기술을 만들고 보급화 한 뒤에 문제가 생기면 고치는 방법이 아니라, 기술이 출시되기 이전에 최소한의 안전장치를 마련한다는 개념은 사회적 안전을 위해 중요한 내용이라고 보여졌다. 특정한 이유 때문에 성인용으로 제한된 콘텐츠를 일정 나이까지 접근하지 못 하도록 차단하거나 사람의 얼굴을 무단으로 합성하지 않도록 제어하는 방법은 범죄와 거짓뉴스를 억제하는데 중요한 역할을 할 수 있을거라 생각되었다. 물론 이런 사전 안전 설계(Safety by Design)가 Trust and Safety라는 정책에 100% 부합하지 않더라도 최소한의 제어는 할 수 있지 않을까?
기술이 발전함에 따라 인간의 의지와 자유도는 막을 수 없는 상태가 되는데 윤리의식, 인권, 동물권, 철학은 느리게 움직이는 것 같다. 사회정의를 외치지만 정의롭지 않고, 평등을 말하지만 균형이 없는 사회에서 자유를 위해 안전을 버릴 수는 없을 것 같다.
