תפילת ערבית של ליל ראש השנה היא התפילה הראשונה בעשרת ימי תשובה, ונוהגים בה דינים מיוחדים, הנוהגים בכל תפילות עשרת ימי התשובה.
בעשרת הימים שמראש השנה ועד יום הכיפורים, משנים את נוסח החתימה של ברכת "אתה קדוש", ובמקום לומר: "ברוך אתה ה' הא-ל הקדוש", אומרים: "ברוך אתה ה' המלך הקדוש". זאת כיוון שבימים אלו ה' מנהיג את עולמו בתור מלך, שיושב ודן את העולם כולו, ומלכותו וממשלתו ניכרות לכל1.
אדם שטעה ואמר "הא-ל הקדוש", יתקן מיד את טעותו ויאמר "המלך הקדוש". אך אם הוא שם לב לטעותו לאחר שכבר התחיל את הברכה הבאה, או לאחר שעבר משך זמן של "תוך כדי דיבור", שזהו משך הזמן שלוקח לומר "שלום עליך רבי"2 (כשתיים-שלוש שניות), אין הוא יכול יותר לתקן את מה שאמר, ועליו לחזור לתחילת התפילה3. אמנם בדרך כלל, הטועה באחת מברכות התפילה ושם לב לכך לפני שסיים את התפילה, אינו צריך לחזור לתחילת התפילה אלא רק לתחילת הברכה שטעה בה. אבל הטועה ב"המלך הקדוש" צריך לחזור לתחילת התפילה, כיוון ששלוש הברכות הראשונות של התפילה נחשבות לברכה אחת, שכן שלושתן עוסקות בשבחו של ה'4.
דינו של שליח ציבור שטעה בחזרת הש"ץ ואמר "הא-ל הקדוש", כדין יחיד שטעה בכך בתפילתו. ולכן אם הוא שם לב לטעותו לאחר שהתחיל בברכה הבאה או לאחר שעבר זמן "תוך כדי דיבור", עליו לחזור לתחילת התפילה, ולומר שוב את סדר הקדושה5. ויש מי שסובר ששליח ציבור שטעה ואמר "הא-ל הקדוש", אינו צריך לחזור לתחילת התפילה אלא לתחילת ברכת "אתה קדוש", כיוון שבחזרת הש"ץ אומרים קדושה בין ברכת "מחיה המתים" לברכת "אתה קדוש", ולדבריו, הקדושה מחלקת את שלוש הברכות לשתיים, והן אינן נחשבות לברכה אחת.
אדם שהתעורר בליבו ספק אם אמר "הא-ל הקדוש" או "המלך הקדוש", צריך לחזור לתחילת התפילה, כיוון שיש להניח שאמר "הא-ל הקדוש", כהרגלו בכל השנה7. אך אם הוא יודע שאמר את התוספת שמוסיפים בראש השנה ("ובכן תן פחדך וכו'"), והוא מסופק אם חתם כראוי, אינו צריך לחזור, כיוון שרגילוּת הלשון לסיים את נוסח הברכה של ראש השנה ב"המלך הקדוש"8. וכן המתפלל מתוך מחזור, והתעורר ספק בליבו אם אמר "המלך הקדוש", אינו צריך לחזור ולהתפלל, כיוון שיש להניח שאמר כפי הכתוב לפניו במחזור9.
כאשר ראש השנה חל בשבת, אומרים בתפילת ערבית את ברכת מעין שבע, כפי שאומרים בכל שבת, אלא שבמקום לומר "מגן אבות בדברו וכו', הא-ל הקדוש שאין כמוהו", אומרים "המלך הקדוש שאין כמוהו"10. אם שליח הציבור טעה ואמר "הא-ל הקדוש שאין כמוהו", ושם לב לכך לפני שסיים את הברכה, יחזור לומר שוב מ"המלך הקדוש שאין כמוהו"11. אך אם שליח הציבור שם לב לטעותו רק לאחר שסיים את ברכת מעין שבע, נחלקו הפוסקים אם עליו לחזור ולומר את ברכת מעין שבע. יש סוברים שעליו לחזור ולומר את ברכת מעין שבע, כדין הטועה בתפילה, שעליו לחזור ולהתפלל12. ויש סוברים שחז"ל לא תיקנו לחזור שנית על ברכת מעין שבע, אף אם טעו בה. זאת כיוון שבדרך כלל אין אומרים חזרת הש"ץ בתפילת ערבית, והטעם לאמירתה של ברכת מעין שבע בשבת הוא להאריך את תפילת ערבית, כדי שהמאחרים לתפילה לא יישארו לבדם ויצטרכו לחזור מבית הכנסת לבד; ולכן לא תיקנו חז"ל לחזור עליה במקרה של טעות13; וכן הלכה14.
הגאונים תיקנו להוסיף בתפילת עמידה בעשרת ימי תשובה בקשות שנִכָּתב לחיים טובים. בברכת אבות תיקנו לומר: "זכרנו לחיים מלך חפץ בחיים וכו'". בברכת "מחיה המתים" תיקנו לומר: "מי כמוך אב הרחמן (או: "הרחמים") וכו'". בברכת "מודים" תיקנו לומר: "וכתוב לחיים טובים כל בני בריתך"; ובברכת "שים שלום" תיקנו לומר: "בספר חיים וכו'".
אדם ששכח לומר אחת מתוספות אלו, ושם לב לכך קודם שאמר את שם ה' שבחתימת הברכה ("ברוך אתה ה'"), יחזור למקום התוספת, ויאמר מהתוספת ואילך. אך אם הוא שם לב לכך אחרי שאמר את שם ה' שבחתימת הברכה, לא יחזור ויאמרן, כיוון שעל ידי זה הברכה שאמר תיחשב ברכה לבטלה; וכיוון שתוספות אלו לא נזכרו בתלמוד, אין הן מעכבות את התפילה1.
בעשרת ימי תשובה גם משנים את החתימה של ברכת "השיבה שופטינו", ובמקום לומר: "ברוך אתה ה' מלך אוהב צדקה ומשפט", אומרים: "ברוך אתה ה' המלך המשפט", והדינים הנוגעים לזה מבוארים בפרק יח.
בתפילות עשרת ימי תשובה, בסוף תפילת עמידה נוהגים לשנות את משפט הסיום, ובמקום לומר "עושה שלום במרומיו", אומרים: "עושה השלום במרומיו"1 וזאת על פי הקבלה2. וכן נוהגים בסוף 'קדיש תתקבל' שאחרי חזרת הש"ץ3, כיוון ש"עושה שלום" שבסוף קדיש זה, נחשב לסיום חזרת הש"ץ4. ויש מיוצאי אשכנז הנוהגים כן באמירת כל תפילות הקדיש5.
יוצאי אשכנז נוהגים לשנות את נוסח הקדיש בעשרת ימי תשובה, ובמקום לומר "יתברך וישתבח וכו' לעילא מן כל ברכתא (יותר מכל הברכות)", הם אומרים: "לעילא לעילא מכל ברכתא (יותר ויותר מכל הברכות)"1. הטעם לכך הוא שבימים אלו שמו של ה' מתעלה יותר מאשר בכל השנה, כיוון שהוא דן את העולם, ומתוך כך אנו מרבים להתפלל אליו, לשבח ולפאר אותו2.
בראש השנה, יש הנוהגים להתפלל את תפילת עמידה בכריעה (כפי שכורעים בתחילת ברכת אבות ובסופה), כדי להתפלל מתוך אימה ויראה, כראוי לאדם העומד בדין1.
הנוהגים כך צריכים לשים לב לקיים את תקנת חכמים, ולכרוע בברכת אבות ובברכת "מודים". לשם כך, עליהם להזדקף מעט לפני שהם מגיעים למילים שצריך לכרוע בהן, כדי שבהגיעם למילים אלו יוכלו לכרוע, כתקנת חכמים2.
עוד עליהם לשים לב, שלא יוסיפו על הכריעות שתיקנו חכמים. הטעם לכך שאסור להוסיף על הכריעות שתיקנו חכמים הוא שאם כל אחד יוסיף כריעות כרצונו, תישכח תקנת חכמים לכרוע בברכת אבות וב"מודים", משום שאנשים יסברו שכל אחד כורע כרצונו. כדי שלא להוסיף על הכריעות שתיקנו חכמים, על המתפללים בכריעה להקפיד שלא לכרוע בתחילתן של הברכות שאין חובה לכרוע בהן ובסופן, אלא רק באמצען. על ידי זה, ההבדל בין כריעות אלו לכריעות החובה יהיה ניכר, ולא יתעורר חשש שהמתפלל בכריעה מוסיף על הכריעות שתיקנו חכמים3.
כאשר המאמץ להתפלל בכריעה פוגע ביכולת להתפלל בריכוז ובכוונת הלב, עדיף להתפלל זקוף, בהכנעת הלב ובכוונה, מאשר בגוף כפוף וללא כוונה4.
בתפילת עמידה של ראש השנה, מותר להגביה את הקול מעט, כיוון שתפילה בקול מסייעת לריכוז הכוונה. ואמנם בכל השנה אסור להתפלל בקול, כיוון שתפילה בקול עלולה לבלבל את המתפללים, אבל בראש השנה אין חוששים לבלבול המתפללים, כיוון שיש לכל מתפלל מחזור תפילה1. עם זאת, יש להיזהר שלא להגביה את הקול יותר מדי, כיוון שתפילה בקול רם מפריעה גם למי שיש בידו מחזור2. ויש סוברים שגם בראש השנה יש להתפלל בלחש, כיוון שעל פי הקבלה, תפילת עמידה הנאמרת בקול איננה מתקבלת בשמים. לכן מי שיכול להתפלל בלחש ולכוון, יתפלל בלחש ולא יגביה את קולו3. ומנהג יוצאי ספרד להתפלל בראש השנה בלחש, כבכל ימות השנה4.
יש סוברים שטוב ונכון שאדם יעורר את עצמו לבכות בתפילות ראש השנה, כיון שראש השנה הוא יום הדין, והבוכה בתפילתו, תפילתו מקובלת יותר1. ויש סוברים שאין לאדם לעורר את עצמו לבכות בראש השנה, כיוון שראש השנה הוא יום טוב, ונוהגת בו מצוות שמחה; וכן אמרו עזרא ונחמיה לשבי הגולה, שבכו בראש השנה על כך שלא קיימו את התורה כראוי: "הַיּוֹם קָדֹשׁ הוּא לַה' אֱלֹקֵיכֶם אַל תִּתְאַבְּלוּ וְאַל תִּבְכּוּ וכו' וְאַל תֵּעָצֵבוּ כִּי חֶדְוַת ה' הִיא מָעֻזְּכֶם"2.
אדם שמתעורר מאליו לבכות בראש השנה מתוך התלהבות של קדושה ודבקות בה', הרי זו מעלה, ולדעת כולם, אין הוא צריך למנוע את עצמו מכך3.
מותר לאדם להתפלל בראש השנה על צרכיו הפרטיים1, אך ראוי להקדיש את עיקר תשומת הלב והמאמץ לתפילות הקבועות, העוסקות בהמלכת ה', כיוון שזהו עיקר עניינו של ראש השנה2. כמו כן, העוסק בבקשת בקשות פרטיות מוציא את עצמו מן הכלל, ועיקר הזכייה בדין היא על ידי זה שאדם מבטל עצמו לכלל ישראל3.
בראש השנה נוהגים לברך איש את חברו בברכת "לשנה טובה תכתב ותחתם"1, ויש המוסיפים ואומרים: "לאלתר לחיים טובים ולשלום"2.