Multilingual prompt engineering via large language models : an approach to sentiment analysis

Abstract

Exploring the efficacy of multilingual prompt engineering for sentiment analysis reveals a promising avenue for extending the adaptability of large language models (LLMs) beyond the confines of the primary predominant English. The core ambition revolves around devising strategies for transferring adept English instructions into the target language. These strategies exploit the remarkable capability of large language models to extract information and learn new task by the context of a few demonstrations - known as in-context learning. In this research, the strategies leverage both monolingual and cross-lingual prompt templates, augmented with demonstrations. Furthermore, the process of instruction generation is supported by an iterative rephrasing approach that refines instructions into their optimal counterparts. The investigation unfolds through a careful analysis of how multilingual instruction generation benefits from incorporating demonstrations, either in English or the target language, within the prompt template. Results substantiate that iteratively rephrasing instructions further improves the effectiveness of the instruction generation process, underscoring the proficiency of large language models to follow the request. Through this exploration, it emerges that the automatic prompt engineering methods exhibit potential in multilingual contexts. The findings advocate for a broader utilization of demonstration learning and iterative refinement techniques in multilingual prompt engineering, aiming to universalize the application of large language model across diverse communities and languages. This study not only fills the gap identified in previous research regarding the effectiveness of automatic prompt engineering methods for non-English languages but also facilitates broader access for linguistic communities to generative AI.

Die Erforschung der Wirksamkeit von mehrsprachigem Prompt-Engineering für die Sentiment-Analyse zeigt einen vielversprechenden Weg auf, um die Anpassungsfähigkeit von großen Sprachmodellen (LLMs) über die Grenzen des primär vorherrschenden Englisch hinaus zu erweitern. Das Hauptanliegen besteht darin, Strategien für die Übertragung geschickter englischer Anweisungen in die Zielsprache zu entwickeln. Diese Strategien nutzen die bemerkenswerte Fähigkeit großer Sprachmodelle, Informationen zu extrahieren und neue Aufgaben aus dem Kontext einiger weniger Demonstrationen zu lernen - bekannt als kontextbezogenes Lernen. In dieser Forschung nutzen die Strategien sowohl einsprachige als auch sprachübergreifende Aufforderungsvorlagen, die durch Demonstrationen ergänzt werden. Darüber hinaus wird der Prozess der Anweisungsgenerierung durch einen iterativen Umformulierungsansatz unterstützt, der die Anweisungen zu ihren optimalen Gegenstücken verfeinert. Im Rahmen der Untersuchung wird sorgfältig analysiert, inwieweit die Generierung mehrsprachiger Instruktionen von der Einbeziehung von Demonstrationen, entweder in Englisch oder in der Zielsprache, in die Instruktionsvorlage profitiert. Die Ergebnisse belegen, dass die iterative Umformulierung von Anweisungen die Effektivität des Anweisungserstellungsprozesses weiter verbessert und die Fähigkeit großer Sprachmodelle unterstreicht, der Aufforderung zu folgen. Durch diese Untersuchung wird deutlich, dass die Methoden zur automatischen Erstellung von Eingabeaufforderungen in mehrsprachigen Kontexten Potenzial aufweisen. Die Ergebnisse sprechen für einen breiteren Einsatz von Demonstrationslernen und iterativen Verfeinerungstechniken bei der Entwicklung mehrsprachiger Prompts mit dem Ziel, die Anwendung großer Sprachmodelle in verschiedenen Gemeinschaften und Sprachen zu universalisieren. Diese Studie schließt nicht nur die Lücke, die in der bisherigen Forschung in Bezug auf die Effektivität automatischer Prompt-Engineering-Methoden für nicht-englische Sprachen identifiziert wurde, sondern erleichtert auch einen breiteren Zugang zu generativer KI für Sprachgemeinschaften.