인터넷 비방 중상에서 배워야 할 서비스 개발자의 책임

지금, 테라스 하우스에 출연했던 기무라 하나 씨의 자살로 인해 인터넷 비방이 큰 문제가 되고 있습니다. 정말로 슬픈 문제이지만, 우리 서비스 개발자들은 이러한 문제에 정면으로 맞서야 합니다.

서비스 개발자인 우리가 무엇에 맞서야 하는가 하면, 이번 사건은 트위터나 인스타그램과 같은 소셜 네트워킹 서비스나 블로그, 검색 엔진 등 IT 관련 플랫폼이 존재했기 때문에 발생한 사건입니다. 만약 IT 관련 서비스가 존재하지 않았다면, 이번과 같은 사건은 일어나지 않았을지도 모릅니다.

그렇다고 해서 IT 서비스나 플랫폼을 만들지 말라고 말하고 싶은 것이 아니라, 윤리적으로 서비스를 생각해야 한다는 것입니다. 예를 들어, 이 서비스를 만들면 어떤 나쁜 영향이 있을지, 어떤 비극이 일어날지 상상하고, 악용을 예방하는 전략을 세워야 합니다.

편리함 뒤에 고통받는 사람이 생기는 편리함은 필요 없다

누가 말했는지는 잊었지만, 어떤 인플루언서가 '새로운 서비스를 만들 때 윤리는 필요 없다. 언젠가 잘못이라고 생각했던 윤리도 많은 사람이 동의하면 정답이 된다'는 말을 했지만, 이것은 결코 아닙니다. 애초에 사람을 해치거나 악영향을 미치는 시스템 자체는 이미 안 되고 비판받게 되어 있습니다, 앞으로의 사회에서는.

편리하다고 해서 그것이 누군가의 목숨을 앗아갈 수 있는 시스템이라면 어떻게든 해결해야 한다. 편리함의 이면에 누군가의 목숨이 빼앗기는 시스템이라면, 그런 편리함은 존재해서는 안 된다.

예를 들어, 저도 종종 X(구 트위터)에서 공유하지만 X(구 트위터)의 '리트윗'을 만든 개발자분은 매우 후회하고 있습니다. 개발자 Wetherell 씨는 리트윗 기능을 만들었을 때, 개발자 측에서는 거의 좋은 면만 보였습니다. 리트윗이 있으면 세상이 어떻게 편리해질지만 보고, 그것이 어떻게 악용될지는 상상하지 못했습니다.

X(구 트위터)의 리트윗을 만든 남자, 후회하다
https://www.gizmodo.jp/2019/07/tweet-retweet.html

결과적으로 수많은 가짜 뉴스가 확산되거나, 여성 혐오의 온상이 되거나, 왕따의 원인이 되는 등 부정적인 면이 많이 생겨났습니다. 이것은 원자폭탄과 같은 것으로 (비교하는 것이 어폐가 있을 수도 있지만) 원자력이 탄생함과 동시에 엄청난 파괴 병기가 생겨난 것과 같을지도 모릅니다. 무기가 '정보'가 되었을 뿐입니다.

그래서 우리는 편리함을 추구하는 한편, 과연 그것이 윤리적으로 괜찮은지, 그리고 부정적으로 사용되어 누군가의 생명이나 삶을 빼앗지 않을지 마주하고 항상 생각해야 합니다.

X(구 트위터)도 과거에 수없이 왕따나 부정적인 움직임의 온상이 되었으니, 연령 제한이나 비방 중상에 대한 대책 등을 마련해야 합니다. 할 수 있습니다. 비방 중상에 대한 대책은 '~죽어라'와 같은 단어를 인명과 조합하여 그럴듯한 것을 추출할 수 있으니까요. DM을 보낼 때도 그러한 DM을 보낸 계정을 정지시키거나 심사할 수 있는 시스템으로 만들었으면 좋았을 겁니다.

서비스를 만드는 사람은 항상 편리함을 만들어내면서도, 최악의 방식으로 사용되어 누군가를 해칠 가능성이 있다는 것을 더 잘 생각해야 합니다. 서비스의 윤리와 시스템을 최악의 방식으로 사용되지 않도록 생각하고 항상 개선해나가야 합니다.

만약 세상이 편리해지는 이면에 고통받는 사람들이 있다면, 그런 서비스는 없어져야 한다고 저는 생각합니다.이 말 자체는 '왕들의 바이킹'이라는 만화에서 따온 것이지만요. 전적으로 동의합니다.

앞으로,STARTOUT또는WAREHOUSE에서 배운 것을 사용하여 사업이나 서비스를 만드는 사람들도 많이 나타날 것이라고 생각합니다. 그런 상황에서 만약 자신이 만들어내는 서비스가 누군가를 해치거나, 생명을 빼앗거나, 나쁜 일에 사용된다면, 어떻게 그 부정적인 사용을 막을 수 있을지 마지막까지 생각해보세요. 그것이 세상을 편리하게 하고 자신도 부유하게 되는 사람의 가장 중요한 책임 중 하나라고 생각합니다.

참고로, 비방 중상을 당하면 법적으로 용서 없이 대응하는 것이 좋다고 생각한다

비방 중상하는 사람들에 대해 '무슨 생각으로 말하는 거야'라고 생각하는 사람이 많을 것이라고 생각하지만, 여러분, 대단한 의도를 가지고 말하는 것이 아닙니다.

확실히 일부는 상대를 해치려고 생각하며 비방 중상하는 사람도 있을 수 있습니다. 하지만 그 외 대다수의 비방 중상은 카페 등에서 친구와 가볍게 욕하는 것과 같은 감각으로만 내뱉습니다. 요컨대 그러한 게시물을 보고 상처받는 사람이 있다는 것을 상상조차 하지 못하는 것입니다.

그래서 이것들은 무의식적인 악의 속에서 이루어지는 일이기 때문에, 본인조차 자신이 한 말을 기억하지 못할 수도 있습니다. 그러므로 주변 사람들이 그러한 언행은 그만두는 것이 좋다고, 글로 게시한 시점에서 남는 것이고, 보여지고, 범죄라고 알려주는 것이 좋지 않을까 생각합니다.

그리고,비방 중상을 당하면 철저히 변호사와 상담하여 용서 없이 대응해야 합니다.적어도 아무것도 하지 않으면 아무것도 변하지 않습니다. 틀림없습니다. '악순환을 끊자'는 아름다운 말로 이런 사건들이 몇 번이나 일어났습니까. 이제는 대응해야 합니다. 제가 만약 비방 중상을 당한다면 확실히 그렇게 할 것입니다. 아직은 그런 비방 중상이 올 만큼 유명하지 않아서 없지만요. 익명이라도 지금은 상대를 특정할 수 있습니다. 틀림없이 할 수 있습니다. 방법도 저 정도는 상상할 수 있습니다.

게다가, 비방 중상을 수집하는 코드를 작성하여 일일이 수집하고, 거기에 올라온 계정을 즉시 변호사에게 전송하는 것과 같은 일도 할 수 있었을지도 모른다고 생각하게 됩니다.

참고로 '방송에 대한 감상'이니까 문제없다고 말하는 사람도 있었던 것 같지만, 감상이라도 표현 방식에 따라 흉기가 될 수 있습니다. 감상이나 의견도 만약 상대방이 극도로 상처받을 만한 말로 한다면, 그것은 범죄입니다.

의견이 극도로 상대방의 정신을 해치는 언행이라면, 표현 방식에 따라 흉기가 됩니다. 이번 기무라 하나 씨에게 한 말도, 바꿔서 부드럽게 말했다면 이런 일은 없었을 것입니다. 결국 표현의 문제이지, 의견인지 아닌지는 상관없습니다.

참고로, 비방 중상의 기준은"만약 자신이 그 말을 수십만 명으로부터 들어도 상처받지 않을까?"라고 생각합니다. 만약 상처받거나 병들 가능성이 있다면, 그것은 상대방에게 말해서는 안 됩니다. 어떤 고통을 수반할지 상상할 수 없기 때문에 말하는 것이니까요.

라고 하면, 자신은 상처받지 않는다고 말하는 사람도 나올 것 같지만, 그런 경우에는,X(구 트위터) 설문조사라도 해서 '상처받는다', '상처받지 않는다'의 2가지 선택지로 결론을 내는것이 좋을지도 모르겠습니다. 언론 탄압에 사용될 것이라는 의견도 있을 수 있지만, 일반적으로 가치관의 차이는 논쟁으로는 답이 나오지 않으므로, 다수결로 결정하는 것이 좋다고 생각합니다. 간단하게요.

나쁜 것은 나쁜 것이므로, 주변 사람들이 알려줍시다. 의견을 말하는 것은 좋지만, 말하는 방식이 있을 것이라고요. 그러한 언행은 이렇게 지금, SNS에 있는 한 사람 한 사람의 작은 노력으로 어떻게든 할 수 있을지도 모르니까요.