Prompting for Numerical Sequences: A Case Study on Market Comment Generation, Masayuki Kawarada+, N/A, arXiv'24

[AkihikoWatanabe]

URL

• https://arxiv.org/abs/2404.02466

  Affiliations

  • Masayuki Kawarada, N/A
  • Tatsuya Ishigaki, N/A
  • Hiroya Takamura, N/A

    Abstract

  • Large language models (LLMs) have been applied to a wide range ofdata-to-text generation tasks, including tables, graphs, and time-seriesnumerical data-to-text settings. While research on generating prompts forstructured data such as tables and graphs is gaining momentum, in-depthinvestigations into prompting for time-series numerical data are lacking.Therefore, this study explores various input representations, includingsequences of tokens and structured formats such as HTML, LaTeX, andPython-style codes. In our experiments, we focus on the task of Market CommentGeneration, which involves taking a numerical sequence of stock prices as inputand generating a corresponding market comment. Contrary to our expectations,the results show that prompts resembling programming languages yield betteroutcomes, whereas those similar to natural languages and longer formats, suchas HTML and LaTeX, are less effective. Our findings offer insights intocreating effective prompts for tasks that generate text from numericalsequences.

    Translation (by gpt-3.5-turbo)

• 大規模言語モデル（LLMs）は、表やグラフ、時系列数値データなど、さまざまなデータからテキストを生成するタスクに適用されてきた。表やグラフなどの構造化データに対するプロンプト生成の研究が盛んになっている一方で、時系列数値データに対するプロンプト生成の詳細な調査は不足している。そこで、本研究では、トークンのシーケンスやHTML、LaTeX、Pythonスタイルのコードなど、さまざまな入力表現を探究する。実験では、株価の数値系列を入力として受け取り、対応する市場コメントを生成するMarket Comment Generationタスクに焦点を当てる。私たちの予想に反して、結果は、プログラミング言語に似たプロンプトがより良い結果をもたらす一方で、自然言語やHTML、LaTeXなどのより長い形式のプロンプトは効果が低いことを示している。私たちの研究結果は、数値系列からテキストを生成するタスクに効果的なプロンプトを作成するための示唆を提供している。

  Summary (by gpt-3.5-turbo)

• LLMsは、構造化データに対するプロンプト生成に関する研究が進んでいるが、時系列数値データに関する詳細な調査が不足している。本研究では、株価の数値系列を入力として市場コメントを生成するタスクに焦点を当て、さまざまな入力表現を探究する。実験結果は、プログラミング言語に似たプロンプトがより良い結果をもたらすことを示しており、数値系列からテキストを生成する際の効果的なプロンプト作成について示唆を提供している。

[AkihikoWatanabe]

Data-to-Text系のタスクでは、しばしば数値列がInputとなり、そこからテキストを生成するが、この際にどのようなフォーマットで数値列をPromptingするのが良いかを調査した研究。Pythonリストなどのプログラミング言語に似たプロンプトが高い性能を示し、自然言語やhtml, latextなどのプロンプトは効果が低かったとのこと