26.3.12 1 year, 1 publisher, 9,000 books: AI-generated titles flood

[김상태]

1개 출판사가 1년에 9,000권: 인공지능이 만든 책 들이 한국 서점에 넘쳐나다

For generations, Koreans have regarded books as the most reliable form of information.

They're slower than social media, but more carefully made and more accountable.

여러 세대에 걸쳐 한국인들은 책을 가장 신뢰할 수 있는 정보의 형태로 여겨왔다.

소셜 미디어보다 느리지만, 더 신중하게 제작되고 책임감 있게 다뤄진다.

That basic trust is now under strain as generative artificial intelligence (AI) quietly fills bookstores and e-book platforms with nonfiction titles on self-help, money management and other popular topics, often with little transparency about who — or what — wrote them.

생성형 인공지능(AI)이 서점과 전자책 플랫폼을 조용히 점령하며 자기계발, 재테크등 인기 주제의 논픽션 서적을 쏟아내기 시작하면서 이로 인해 기본적인 신뢰가 흔들리고 있는데, 흔히 누가 또는 무엇이 썼는지에 대한 투명성은 거의 없는 실정이다.

The rapid spread of AI-generated books forces an uncomfortable question: When you pick up a book in Korea today, how sure can you be that a human mind stands behind it?

AI로 생성된 책의 급속한 확산은 불편한 질문을 던진다: 오늘날 한국에서 책을 집어들 때, 그 책 뒤에 인간의 사고가 존재한다고 얼마나 확신할 수 있을까?

Quantity over quality        질보다 양

That question already has an answer visible on the shelves. In brick-and-mortar bookstores and libraries, readers are running into titles that feature tables of contents that look plausible at first glance, but open to pages with unnatural phrasing and uncanny images that bear little relation to the text.

그 질문에 대한 답은 이미 서가에 드러나 있다. 오프라인 서점과 도서관에서 독자들은 표면상 그럴듯해 보이는 목차를 가진 책들을 마주하지만, 책을 펼치면 문장 구조가 어색하고 내용과 전혀 어울리지 않는 기이한 이미지들이 등장한다.

On online storefronts, the pattern becomes even clearer. Many covers have eerily similar artwork with auto-generated titles, and some small, unknown publishers are pushing out more than 100 books in a single month.

온라인 서점에서는 이런 현상이 더욱 뚜렷해진다. 많은 표지들이 자동 생성된 제목과 함께 기이할 정도로 유사한 삽화를 사용하고 있으며, 일부 소규모 무명 출판사들은 한 달에 100권 이상의 책을 쏟아내고 있다.

“AI-generated books have increased significantly in recent years,” said an official from Aladin Communications, one of Korea's largest online booksellers.

"최근 몇 년간 인공지능(AI)으로 생성된 도서가 크게 증가했다"고 한국 최대 온라인 서점 중 하나인 알라딘 커뮤니케이션즈 관계자는 말했다.

The trend has a structural explanation. According to the Publication Industry Promotion Agency of Korea, the number of one-person publishing houses reached 6,800 in 2023, up from 5,580 in 2019, partly due to a proliferation of micropublishers for whom AI offers a way to produce at scale with almost no overhead.

이러한 추세에는 구조적 원인이 있다. 한국출판진흥원에 따르면 1인 출판사 수는 2019년 5,580개소에서 2023년 6,800개소로 증가했는데, 이는 AI를 통해 거의 무비용으로 대량 생산이 가능한 마이크로 출판사들이 급증한 영향도 있다.

Some have leaned heavily into generative AI. Luminary Books in particular has emerged at the center of a growing controversy in Korea's publishing industry.

일부는 생성형 AI에 크게 의존하고 있다. 특히 루미너리북스는 한국 출판계에서 커져가는 논란의 중심에 서 있다.

Founded by engineers in 2022, the company released about 9,000 titles in 2025 alone, covering subjects ranging from economics and humanities to fashion and food, all at a pace that would be unthinkable without extensive use of AI.

2022년 엔지니어들이 설립한 이 회사는 2025년 한 해에만 경제학, 인문학부터 패션, 음식에 이르기까지 다양한 주제를 아우르는 약 9,000종의 도서를 출간했으며, 이는 광범위한 인공지능 활용 없이는 상상조차 할 수 없는 속도였다.

The scale of production drew backlash from industry observers and the wider public, who accused the company of undermining publishing ethics by mass-producing books with only minimal human involvement.

이러한 대규모 생산은 업계 관측통과 광범위한 일반 대중의 반발을 불러일으켰는데, 이들은 최소한의 인간 개입만으로 책을 대량 생산함으로써 출판 윤리를 훼손하고 있다고 비난했다.

The Seoul-based publisher is also being criticized for exploiting Korea's legal deposit system. Publishers are required to submit both digital and print copies of their books to the National Library of Korea (NLK) and the National Assembly Library within 30 days of publication, and in return they receive payment equal to the value of one copy.

서울에 소재하는 이 출판사는 한국의 법정 기탁 제도를 악용했다는 비판도 받고 있다. 출판사는 도서 출간 후 30일 이내에 국립도서관과 국회도서관에 디지털 및 인쇄본을 제출해야 하며, 그 대가로 1권 상당의 금액을 지급받는다.

The system was designed to preserve the nation's publication records and support the industry, but critics argue Luminary used it as a revenue stream, mass-submitting AI-generated titles with little literary or informational merit.

이 제도는 국가 출판 기록 보존과 출판 산업 지원을 목적으로 설계되었으나, 비판자들은 루미너리가 이를 수익원으로 악용해 문학적·정보적 가치가 거의 없는 인공지능 생성 도서를 대량 제출했다고 주장한다.

As criticism grew, the NLK pushed back. It rejected 395 e-books submitted by Luminary Books between July and September 2025, citing "insufficient length, compilations of publicly available materials and repetitive content."

비판이 거세지자 국립도서관(NLK)은 어쩔수 없이 재고해야 했다. 2025년 7월부터 9월까지 루미너리 북스가 제출한 전자책 395권을 "분량이 부족하고, 공개 자료의 편집물이며, 내용이 반복적"이라는 이유로 거부했다.

The library has since pledged to review its legal deposit policies more broadly in response to a sharp rise in deposit payouts.

국립도서관 측은 이후 법정기탁료 지급액 급증에 대응해 기탁 정책 전반을 재검토하겠다고 약속했다.

When the NLK first began accepting e-book deposits in 2016, it paid out 12.1 million won over five months, but the figure climbed to 262.7 million won in 2024.

국립도서관이 2016년 전자책 기탁을 처음 시작했을 때 5개월간 지급한 금액은 1,210만 원이었으나, 2024년에는 2억 6,270만 원으로 급증했다.

Kim Tae-gyun, owner of scientific publisher Cocoon Books, warned that the fallout could extend across the sector.

과학 출판사 코쿤북스의 김태균 대표는 이 사태가 업계 전반으로 확산될 수 있다고 경고했다.

“Compensation from the NLK may not seem large, but losing the system entirely could damage the industry's finances,” Kim said.

김 대표는 "NLK의 보상금이 크지 않아 보일 수 있지만, 시스템 자체를 완전히 잃는다면 업계 재정 상태에 타격을 줄 수 있다"고 말했다.

Luminary Books defended its practices, calling AI-generated content an inevitable trend in publishing.

루미너리북스는 AI 생성 콘텐츠가 출판계의 불가피한 추세라며 자사 관행을 옹호했다.

“AI has already established itself as a useful tool for enhancing productivity and quality across various industries, including publishing,” the company said in a statement.

"인공지능은 출판업을 비롯한 다양한 산업 분야에서 생산성과 품질 향상을 위한 유용한 도구로 이미 자리매김 했다"고 해당 기업은 성명에서 밝혔다.

It also said that many authors are already making use of AI in their work and that a number of bestsellers from established publishers appear to contain text that was largely AI-generated.

또한 많은 작가들이 이미 작업에 인공지능을 활용하고 있으며, 유명 출판사의 베스트셀러 다수에도 인공지능이 생성한 텍스트가 상당 부분 포함된 것으로 보인다고 덧붙였다.

Transparency required      투명성이 요구되다

Some industry insiders note that the legal and financial stakes are secondary to a more fundamental concern — declining confidence in books themselves.

일부 업계 관계자들은 법적·재정적 문제는 부차적인 것이고 근본적인 우려 사항은 '책 자체에 대한 신뢰 하락'이라고 지적한다.

Park Yong-soo, executive director of the Korean Publishers Association (KPA), said a friend recently sent him a photo of an AI-produced book that had gone to print with obvious typos left uncorrected.

한국출판협회(KPA) 박용수 사무총장은 최근 지인이 AI로 제작된 책의 인쇄본 사진을 보내왔는데, 명백한 오타가 수정되지 않은 채 인쇄된 상태였다고 전했다.

“I’m worried that the rise of generative AI could undermine readers’ trust in books,” Park told The Korea Times.

"생성형 인공지능의 부상이 독자들의 책에 대한 신뢰를 훼손할까 우려된다"고 박씨는 코리아타임스와의 인터뷰에서 말했다.

In response, some publishers are tightening internal rules. Communication Books, which specializes in translated classics and nonfiction, strengthened its guidelines for authors after fielding questions from readers.

이에 대응해 일부 출판사들은 내부 규정을 강화하고 있다. 번역 고전과 논픽션을 전문으로 하는 커뮤니케이션북스는 독자들의 질문을 받은 후 작가들에 대한 지침을 강화했다.

The company publishes a series of books on AI and some customers have asked whether those titles were themselves written by AI.

이 회사는 인공지능 관련 도서 시리즈를 출간하고 있으며 일부 고객들은 해당 도서 자체가 인공지능에 의해 작성된 것인지 묻기도 했다.

“Our view is that publishing is a product of human history, so we consider it undesirable for tools to carry out the publishing process. So our way of addressing the demand was making guidelines for the authors we work with," a Communication Books official said.

"저희는 출판이 인류 역사의 산물이라고 보기에, 도구가 출판 과정을 수행하는 것은 바람직하지 않다고 생각합니다. 그래서 저희는 협력 작가들을 위한 가이드라인을 마련하는 방식으로 수요에 대응해 왔습니다"라고 커뮤니케이션 북스 관계자는 말했다.

The guidelines are specific: AI-generated sentences may not be inserted directly into manuscripts and doing so is treated as plagiarism.

지침은 명확합니다: AI 생성 문장을 원고에 직접 삽입해서는 안 되며, 이를 표절로 간주합니다.

Writers bear full responsibility for any errors caused by AI-generated content and AI cannot be credited as a co-author. If authors have used generative AI as a support tool, they are required to disclose that fact in a preface or an explanatory note.

저자는 AI 생성 콘텐츠로 인한 모든 오류에 대해 전적인 책임을 지며, AI를 공동 저자로 표기할 수 없습니다. 저자가 생성형 AI를 보조 도구로 사용한 경우, 서문이나 설명 노트에 해당 사실을 반드시 공개해야 합니다.

Booksellers are also moving to increase transparency. Starting last year, online platform Aladin has asked publishers to declare any AI involvement and displays that information on each book’s product page.

서점들도 투명성 강화를 위해 움직이고 있다. 지난해부터 온라인 플랫폼 알라딘은 출판사들에게 인공지능(AI) 활용 여부를 공개하도록 요청했으며, 해당 정보를 각 도서 상품 페이지에 표시하고 있다.

"We've observed that readers want to know whether the books they purchase are written by AI," the Aladin official said.

알라딘 관계자는 "독자들이 구매하는 책이 AI가 쓴 것인지 알고 싶어 한다는 점을 확인했다"고 말했다.

Ethics in limbo          윤리적으로 불확실한 상황

Outside Korea, major players have moved faster to set boundaries on AI in publishing.

한국 밖에서는 주요 기업들이 출판 분야에서 인공지능(AI)의 사용 범위를 정하기 위해 더 빠르게 움직여 왔다.

In 2023, Amazon introduced guidelines for AI-generated books on its Kindle e-book platform, capping self-publishing submissions at three titles per day and requiring authors to disclose whether their content is AI-generated, in an effort to keep low-quality material from flooding the service.

2023년 아마존은 킨들 전자책 플랫폼에서 인공지능(AI) 생성 도서에 대한 가이드라인을 도입했는데, 저품질 콘텐츠가 플랫폼을 넘쳐나는 것을 막기 위해, 자비 출판 제출물을 하루 3권으로 제한하고 저자에게 콘텐츠가 AI 생성인지 여부를 공개하도록 요구했다.

In August 2024, Penguin Random House made a statement saying that AI would serve only as an assistant and that final publications would remain shaped by human creativity and editorial oversight. "Human creativity and care will remain the essence of our mission to make books for everyone," it said.

2024년 8월, 펭귄 랜덤하우스는 인공지능이 보조 역할만 수행할 것이며 최종 출판물은 인간의 창의성과 편집 감독에 의해 형성될 것이라고 밝혔습니다. "모든 사람을 위한 책을 만드는 우리의 사명에서 인간의 창의성과 세심한 배려는 여전히 핵심이 될 것입니다"라고 회사는 전했습니다.

Publisher Pan Macmillan similarly emphasized its commitment to “human stories, by human writers,” stating that any use of AI must support, not replace, human creativity.

출판사 팬 맥밀런 역시 "인간 작가의 인간 이야기"에 대한 헌신을 강조하며, 인공지능의 사용은 인간의 창의성을 대체하는 것이 아니고 지원해야 하는 것이어야 한다고 밝혔다.

By comparison, Korean publishers and institutions have been slower to formalize rules. The KPA has discussed drafting a "Publishing Ethics Code for Artificial Intelligence" as a form of self-imposed regulation, but the proposal remains unfinished.

이에 비해 한국 출판사와 기관들은 규칙을 공식화하는 데 더 느린 모습을 보였다. 한국출판협회는 자율 규제 형태로 '인공지능 출판 윤리 강령' 초안 마련을 논의했으나, 해당 제안은 아직 미완성 상태다.

Park acknowledged the difficulty of reaching consensus in an industry that is simultaneously worried about AI and dependent on what it offers.

박씨는 인공지능에 대한 우려와 동시에 그 기술에 의존하는 산업 내에서 합의점을 찾는 것이 어렵다는 점을 인정했다.

"We also want to address readers' distrust of the market, so we did discuss it internally, but haven't finalized it yet," he said. "Publishers are also showing strong interest in using AI to improve operational productivity ... There are many different opinions and it's difficult to find a unified voice."

"우리는 또한 독자들의 시장에 대한 불신을 해소하고자 했고, 그래서 내부적으로 논의는 했지만 아직 최종 결론은 내리지 못했습니다,"라고 그는 말했다.  "출판사들도 운영 생산성 향상을 위해 인공지능 활용에 강한 관심을 보이고 있습니다... 다양한 의견이 존재하며 통일된 목소리를 내기 어려운 상황입니다."

But many share the same instinct that human judgment should remain at the center. Few in the industry believe AI-generated books will fully displace human authors, even if they dominate in volume.

하지만 많은 이들이 인간의 판단이 중심에 있어야 한다는 본능을 공유한다. 업계에서는 AI가 생성한 책이 양적으로 우세해지더라도 인간 작가를 완전히 대체할 것이라고 믿는 사람은 거의 없다.

Jaeum & Moeum Publishing, one of Korea's major players, framed it as a question of what publishing fundamentally is.

국내 주요 출판사 중 하나인 재음·모음 출판사는 이를 출판의 근본적 본질에 관한 문제로 규정했다.

"Publishing is not merely writing but a comprehensive art form, so we see little room for that possibility," the company said regarding the idea of AI taking over publishing.

"출판은 단순히 글을 쓰는 것이 아니라 포괄적인 예술 형태이므로, AI가 출판을 대체할 가능성은 거의 없다고 봅니다." 해당 기업은 AI가 출판을 장악할 것이라는 아이디어에 대해 이같이 밝혔다.

Kim of Cocoon Books noted that in a market saturated with AI-generated content, the books that ultimately sell — the ones that matter — will have something an algorithmic model cannot replicate.

코쿤북스의 김씨는 AI 생성 콘텐츠로 포화 상태인 시장에서 결국 판매되는 책, 즉 중요한 책들은 알고리즘 모델이 복제할 수 없는 무언가를 지닐 것이라고 지적했다.

"In the end, a book that truly needs to be read will have to have a person in it," Kim said.

"결국 진정으로 읽혀야 할 책에는 반드시 사람이 담겨 있어야 한다"고 김씨는 말했다.