[MIT Tech review] The problems with Elon Musk’s plan to open-source the Twitter algorithm

https://www.technologyreview.com/2022/04/27/1051472/the-problems-with-elon-musks-plan-to-open-source-the-twitter-algorithm/

The problems with Elon Musk’s plan to open-source the Twitter algorithm

요약

머스크의 트위터 오픈소스화 의도

1. 정치적검열을 피하기 위함
2. 스팸봇 방지

반론

1. 알고리즘의 투명성을 요구해온 것은 검열기관(정부기관)들임
2. 오픈 소스화 하는것은 나쁜 사람(bad actor)들이 자신들의 의도로 사용하기 더 쉽게 만듬

 

---

본문

일론머스크가 극적인 변화의 윤곽을 보여줌. 이 중 feed에 무엇을 보여줄지 결정하는 알고리즘도 포함.

머스크가 트위터 알고리즘을 오픈소스로 만드려는 목적은 잠재적 정치적 검열에 대한 걱정에서 비롯됨. 하지만 오픈소스로 만든다 해도 그가 원하는 대로 되지 않을 것이고, 여러 문제가 생길것이라고 전문가들은 얘기함

 알고리즘을 투명하게 만드는 것은 여러 정부가 Big Tech와 싸우기 위해 생각한 아이디어의 기초임

 

---

빅테크 vs 정부 

Ofcom : 영국 소셜미디어 규제 기관

• 소셜 미디어는 코드가 어떻게 작동하는지 설명해야만 한다고 주장

유럽연합

• Digital Services Act : 플랫폼이 더 투명성을 제공하도록 강요할 것으로 보임

미국

• 민주당 상원의원 : Algorithmic Accountability Act 제안
• 타임라인과 피드를 관장하는 알고리즘을 감시하고 투명성을 제공하는 목적

 

트위터 오픈소스

트위터 오픈 소스는 이론적으로 경쟁사가 트위터 소스코드를 복붙해서 사용할 수 있는 것과 같음

• OpenSSL과 같은 오픈소스와 같은 느낌
• Mastodon이라는 오픈소스 SNS도 이미 존재(트위터 대항용)

이게 마스토돈 마크

 

코드를 공개한다고 어떻게 작동하는지 알 수 있을까?

코드를 공개한다고 어떻게 작동하는지 안다곤 할 수 없음. 특히 일반인들한테 유용한점은 거의 없음

• 유전자만 보고 고대 생명체를 알아본느 일과 같음. 거의 알 수 있는게 없음. 그 생물이 어떻게 사는지 안다고 말하기 어려움(stretch to say)

트위터 안에 알고리즘이 하나만 있는것도 아님

• 트랜드, 컨텐츠, 팔로우 추천 등
• 하지만 알고리즘도 트레이닝 데이터 없이는 크게 유용하진 않음

알고리즘 설명가능성과 현재

• 알고리즘 그자체가 우리가 보고 싶은 것이 아님. 우리가 알고 싶은것은 그게 어떻게 개발됐는지에 관한 것임
• 학습 데이터에 따라 AI는 사람의 편견을 영구화 시킬 수도 있음
• 누가 어떤 데이터를 사용했느냐 따라 결과는 유의미하게 다름
• 코드만 보고 알 수 있는것은 많지 않음

데이터 보호 시스템 취약점 및 결점 탐색을 위한 영향 평가 공개

• 취약점 및 결점 발견시 수정 하지만 데이터는 보안 위협때문에 수정됨
• 트위터 오픈소스화는 나쁜 사람들이 취약점을 악용할 수 있게 함

트위터 오픈소스화의 다른 문제

• 나쁜 사람들이 시스템을 조작하도록 할 수도 있음
• 이는 "스팸 봇을 패배시키겠다"라는 머스크의 목표를 더 어렵게 만듬
• 트위터가 어떻게 게시글을 추천하는지 알게 만들고, 이는 나쁜 사람들의 무기가 될 수 있음

의도치 않은 문제점 : 알고리즘을 아마추어처럼 분석하며 생기는 말다툼(squabbles)

• 더 보람없고, 유해한 일임
• 나쁜 행동은 그들의 트윗에 나타난 성향을 반영한 사회적 결과를 가짐
• 알고리즘을 오픈소스화 한다고 편견을 고칠 수 없음.
• 또한 편견을 고치는 과정에서 기술적인 부분보단 정치적인 부분이 더 부각될 것임
• 최근 트위터 연구원에서 다음과 같이 밝힘
  • 알고리즘이 우익 성향 글을 좌익성향 글보다 더 부각시킴