참세상

* AI와 합성 생물학(Synthetic Biology)의 결합은 의도치 않게 해로운 결과를 초래할 새로운 유기체의 창조로 이어질 수 있다.

* AI 기반 도구를 통한 유전공학의 대중화는 생물테러와 위험 생물체의 우발적 방출에 대한 우려를 불러일으킨다.

* 유전자 데이터를 AI 학습에 사용하는 것은 비동의 생물 불법 복제와 유전자 자원 착취라는 윤리적 문제를 제기한다.

출처: AI 생성 이미지

공상과학 영화에는 인간이 숨 쉬기에 적합한 대기를 가진 먼 행성을 방문하는 우주 여행자들의 이야기가 자주 등장한다. 이런 환경에서는 우주복이나 보호 장비가 불필요해 외계 생명체와의 만남이 보다 자연스럽게 전개된다.

게다가 이런 행성들에는 지구에서 발견되는 식물과 동물과 놀랍도록 유사한 생물들이 자주 존재한다. 과학 소설에서 너무 흔히 등장하는 이런 설정의 문제는, 설령 그러한 행성이 존재하더라도 그곳의 미생물들이 인간에게 전혀 낯설어 며칠 또는 몇 주 내에 인체를 치명적으로 위협할 가능성이 크다는 점이다. 인간은 면역력이 없어, 유럽인이 도착했을 때 북미와 남미의 원주민들이 겪었던 운명과 유사한 상황에 직면할 것이다. 당시 원주민의 최대 90%가 낯선 질병으로 사망했다.

이제 합성 생물학(Synthetic Biology), 즉 지구에 존재한 적 없는 생명체를 설계하는 기술이 등장했다. 우리는 이미 GMO 대두와 옥수수 같은 유전자 조작 작물 형태로 이를 접했지만, 이는 곧 다가올 일의 미약한 전조일 뿐이다. 바로 AI와 합성 생물학의 결합이다. 과학자들은 이미 수년 전부터 새로운 DNA 염기서열을 만들어 왔으며, 연구 목적으로 위험한 디자이너 바이러스까지 개발해 왔다. 나는 이러한 활동이 초래할 수 있는 시스템 붕괴 가능성에 대해 걱정하며, DIY 키트를 통한 유전공학의 대중화에도 우려를 표한 바 있다. 이제 신용카드와 주소만 있으면 누구나 유전 공학 키트를 주문할 수 있다.

AI가 합성 생물학과 결합하면서 유전공학의 대중화는 더욱 가속화될 것이다. 원하는 합성 생물체나 물질의 특성을 모국어로 입력하면 즉시 생산할 수 있는 세상이 온다고 상상해보라. 이는 현재는 불가능하지만, 앞으로 몇 년 내에 현실이 될 것이다.

출처: AI 생성 이미지

ChatGPT와 같은 대규모 언어 모델은 부정확하거나 기괴한 정보와 오류를 자주 포함한다. 예를 들어, 살아 있는 사람을 사망한 것으로 묘사하거나 날짜를 잘못 표시하며, 생성 AI가 만든 인물 이미지에 이상한 신체 부위가 생기거나 읽을 수 없는 왜곡된 표지판이 나타나는 경우가 있다. 이러한 오류는 텍스트, 이미지, 비디오, 음성 등 2차원 전자 매체에서도 문제를 일으킬 수 있지만, 4차원 생명체의 게놈 설계나 신체 또는 생태계에 방출되는 활성 생물학적 단백질에 통합될 경우 그 문제는 훨씬 심각해질 수 있다.

나는 ‘선한 가정’이 신기술의 위험성을 인지하지 못하게 만드는 요인이라고 주장한 바 있다. 대다수는 신기술이 긍정적 용도로만 사용될 것이라 믿으며, 이 기술로 얻을 수 있는 이익은 대대적인 홍보로 강조된다.

문제는 이러한 사고방식이 결국 우리 음식, 물, 공기, 토양 어디에나 유독 화학물질이 퍼지게 된 위기를 불러왔다는 점이다. 이는 또한 전 세계 거의 모든 인터넷 사용자에게 소셜 미디어를 받아들이게 만든 사고방식이기도 하다. 친구와 가족과 삶을 쉽고 빠르게 공유하고, 전 세계 사람들과 새로운 친구를 사귈 수 있다는 생각은 얼마나 매력적인가! 각계각층의 유용한 정보를 사실상 무료로 수백만, 심지어 수십억 명과 즉시 공유할 수 있다는 것도 얼마나 멋진가! 그리고 그런 일들은 실제로 일어났다. 그러나 그다음엔 어두운 면이 찾아왔다. 휴대전화 중독, 조직적인 증오와 허위 정보의 확산, 개인과 기관에 대한 괴롭힘, 그리고 "아동 인신매매, 장기 적출이나 기타 끔찍한 행위"라는 허위 고발로 인한 폭도의 살인까지 이어졌다.

AI와 합성 생물학의 어두운 면은 이미 드러나고 있다. 합성 생물학의 주요 목표 중 하나는 질병 치료를 위한 단백질 개발이나 현재 식물과 동물에서 얻는 단백질을 대체할 새로운 단백질을 만드는 것이다. 그러나 앞서 언급한 대로, 의도적이든 실수든 유독하거나 해로운 단백질이 만들어질 가능성도 있다.

새로운 단백질이 식품 첨가물로 사용될수록, 이는 만성 질환의 주요 원인으로 널리 인식되는 가공식품에 대한 의존도가 높아질 우려가 있다. 이러한 단백질은 정의상 우리 몸이 적응하여 건강하게 성장할 수 있는 '완전 식품'이 될 수 없기 때문이다.

이러한 새로운 물질들은 대체 식품 생산에도 사용될 수 있다. 주요 응용 분야 중 하나는 무화과, 건포도, 밀, 메이플 시럽, 당밀에서 발견되는 알룰로스인데, 이 당은 체내에 흡수되지 않는다. 그러나 알룰로스는 자연에서는 극소량만 존재해 여전히 가격이 비싸다. 합성 생물학 산업은 전분이나 일반 당 같은 값싼 원료를 알룰로스로 변환할 수 있는 효소를 개발하고자 노력 중이다. 하지만 이것이 만성 질환 유행에 맞설 건강한 식습관 혁신이라고 보기는 어렵다.

건강에 미치는 영향과 악의적인 행위로 인한 시스템 파멸 가능성 외에도 바이오 불법 복제 문제가 있다. AI 시스템 학습에 사용되는 수억 개의 유전체 샘플 정보는 전 세계에서 수집되며, 그 누구도 이러한 유전자 자원을 AI 업계가 자신들의 이익만을 위해 사용하도록 허락하지 않았다. 이는 현재 AI 업체들이 수백만 명의 예술가, 작가, 음악가, 언론인, 소프트웨어 디자이너 등의 작품을 무단으로 사용해 텍스트와 이미지 생성 시스템을 훈련시키는 것과 유사하다. (참고로, AI 업계는 이러한 관행으로 인해 소송을 당하고 있다.)

AI가 본질적으로 다른 사람의 작업을 공개적으로 도용하는 데 의존한다는 사실은 독자들에게 놀랍지 않을 것이다. 따라서 AI와 합성 생물학의 결합에도 동일한 전략이 적용되고 있다는 사실 역시 놀라운 일은 아니다. 그러나 이 두 분야의 착취에는 큰 차이가 있다. 첫 번째는 인터넷에서 손쉽게 스캔할 수 있는 자료를 바탕으로 창작자들의 생계를 위협하는 반면, 두 번째는 통제되지 않은 확산과 적용으로 인해 대량 살상이나 심지어 멸종이라는 위협을 불러올 수 있다.

AI 업계의 거물들과 그들의 순진하거나 냉소적인 지지자들은 합성 생물학과 결합된 AI의 무수한 잠재적 혜택을 사회에 제공하려면 정부가 개입하지 않아야 한다고 주장할 것이다. 그러나 역사를 아는 사람이라면 우리가 이와 같은 상황을 수없이 겪어왔음을 알고 있다. 석면, 납 휘발유, 염화불화탄소(CFC), 테프론(Teflon) 등 과거의 사례에서 교훈을 얻었다. 규제가 없는 혁신이 부정적 영향을 초래했던 사례는 이미 많다.

[출처] The Dark Side of AI-Powered Synthetic Biology

[번역] 이꽃맘