csmpt-7B-RAGsum

Training Dataset: Semant Search Summarization Dataset
Training configuration

<details> <summary>Click to expand</summary>

max_seq_len: 18000
global_seed: 42

# Run Name
run_name: csmpt_summarization_d01 # If left blank, will be read from env var $COMPOSER_RUN_NAME

# Model
model:
  name: hf_causal_lm
  pretrained_model_name_or_path: BUT-FIT/csmpt7b
  init_device: cpu
  pretrained: true
  trust_remote_code: true
  config_overrides:
    max_seq_len: ${max_seq_len}
    attn_config:
      attn_impl: flash
      alibi: true
    resid_pdrop: 0.1
    tokenizer_name: BUT-FIT/csmpt7b

dataset: &hf_dataset
  hf_name: BUT-FIT/CzechRAGSummarization
  decoder_only_format: true
  max_seq_len: ${max_seq_len}

# Tokenizer
tokenizer:
  name: BUT-FIT/csmpt7b
  kwargs:
    model_max_length: ${max_seq_len}

# Dataloaders
train_loader:
  name: finetuning
  dataset:
    <<: *hf_dataset
    split: train
    shuffle: true
    shuffle_seed: ${global_seed}
  drop_last: true
  num_workers: 8

eval_loader:
  name: finetuning
  dataset:
    <<: *hf_dataset
    split: validation
    shuffle: false
    shuffle_seed: ${global_seed}
  drop_last: false
  num_workers: 2

# Optimization
scheduler:
  name: cosine_with_warmup
  t_warmup: 50ba
  alpha_f: 0.1

optimizer:
  name: decoupled_lionw
  lr: 1.0e-5
  betas:
    - 0.9
    - 0.95
  weight_decay: 0.0

algorithms:
  gradient_clipping:
    clipping_type: norm
    clipping_threshold: 5.0

max_duration: 4500ba
eval_interval: 200ba
eval_first: false
eval_subset_num_batches: -1
global_train_batch_size: 64

# System
seed: ${global_seed}
device_eval_batch_size: 2
device_train_microbatch_size: 1
# device_train_microbatch_size: auto
precision: amp_bf16

# FSDP
fsdp_config:
  sharding_strategy: FULL_SHARD
  mixed_precision: PURE
  activation_checkpointing: true
  activation_checkpointing_reentrant: false
  activation_cpu_offload: false
  limit_all_gathers: true
  verbose: false
  backward_prefetch: BACKWARD_PRE

# Logging
progress_bar: true
log_to_console: true
console_log_interval: 1ba

callbacks:
  speed_monitor:
    window_size: 10
  lr_monitor: { }
  memory_monitor: { }
  runtime_estimator: { }


save_num_checkpoints_to_keep: 10  # Important, this cleans up checkpoints saved to DISK
save_interval: 200ba
save_folder: ./{run_name}/checkpoints

</details>

Example:

input_args = {
    "query": "výlet na Praděd ze Sobotína a okolí",

    "input": "Výsledek [1]: Až do Domašova (8 km) mož- no dvakrát denně užíti pošty (za 11/4 hod.); vozem z Frýval- dova až do Waldenburgu (host. Schubertův 12 km, 3 hod. pě- šky, povoz. 11/2 hod.). Odtud dále dle bělozelených značek silně stoupající cesta 23/4 hod. na Praděd podle Vys. Vody k vodopádu Huhfallu (vysoký, ale mívá málo vody); kdo chce jíti pohodlněji, jde dále ještě sjízdnou cestou až do Jablonné (Gabel) a odtud dle značek k Švýcárně. Sestup po případě do Karlsbrunnu (v. níže č. 2.) neb Sobotína (str. 190.), přes Mysl Františkovu do Koutů (viz str. 191.), nebo přes Šerák do Ram- zové (61/2 hod., str. 181.). 1. Dvoudenní pochod Jesení- kem můžeme si z Frývaldova zaříditi tak, že jdeme z Frý- valdova a Rejvizu (také přes Houk a Zlatou Kupu nebo přes oba vrchole viz č. 5., 6 níže) (modrožluté značky k Plesu a přes poutní místo sv Marka a Marii Pom. na Edel- štejn a do Cukmantlu nocl 2. dne z Cukmantlu na Biskup- skou Výšinu a Slezským Švý- carskem (Wid Grund) do Hlu- cholazů. — 2. Na Praděd a Karl. Lázně (Karlsbrunn) vyžaduje výlet přes Waldenburg (3 hod.) se vzestupem na Praděd (+234 hod.). Výstup dosti příkrý. S Praděda do Karl. Lázní 11/2 hod. (Špičky červ. trojúh. smě řují na Praděd. Špičky jino- barev. trojúh. vyznačují se- stup). Až do Waldenburgu (14 km) dobře sjízdná silnice. Jde- me mal. dolinou Bělé Buchels- dorfem a Adelsdorfem 34 hod. do bystřinou oživeného dolu až ke kostelu ve Sv. Tomáši (Thomasdorf), kde počíná sil- nice nová serpentinovitě ve- doucí do Winkelsdorfu (v pr.) Jdeme starou silnicí přímo dále dle žlutých značek (zkra- cujeme si serpentiny) vzhůru\nVýsledek [2]: přes Franzenshöhe, s níž dále no 2 hod.). Odtud lesem značen. vede cesta znač. na Schafhäuser, cestou (průvodčí příjemný) k hra- neundorfskou boudu (Neundorfer ničnému kameni č. 83 a na hřeben B.), na Malém Sněžníku a k Svý- Mal. Sněžníku po hřebenu po- carství na hřebenu (3 hod.). Dále vlovně vzhůru a přímo v pr. k po hřebenu ještě 3/4 hod. b) Přes rozhl. na Vel. Sněžniku, odtud pak dolů k Švýcarství, — f) Přes Wölfelsgrund. Stejným směrem jako při a) do Lauterbachu, přímo Klappersteine. Velmi pěkná partie však dále přes Neundorf a Urnice přes Schöntal a Neissbach 2 hod. k Wölfelsfallu, odtud dále viz na nejjižnější bod hřebene, kde níže při Langenau. (Celkem 5 hod.) s balvanitého pole nabízí se krás- — c) Jako při a, b) do Lauterbachu, ný rozhled (u hranič. kam. č. 115) avšak vsi podle potoka vzhůru na celé hrabství kladské, do Čech až na hřeben při úpatí Malého i Moravy; přes hrabství viděti až Sněžníka (hraniční kámen II. 83), na Krkonoše. Také od hranič. ka- zde v pr. přes Thanndorfskou mene č. 118 je pěkný rozhl. (na cestu okolo Mal. Sněžníka (1348 kuželovitý kopec s hradem Scham- m), ještě 11/4 hod. k Švýcar- bachem; bílé šipky ukazují k pra- ství (v pr. Velký Sněžník s rozhl. menům Nisy). S Klappersteinu a vzhůru na vrchol. — e) Přes (1138 m) po hřebeni podle hranice Thanndorf. Z Mittelwalde nejpo- zemské dojdeme k vrchoii Hled- hodlnější výstup 5 hod. s pozvol- sebe (Flammenpappel 1185m 4 hod.) ným stoupáním Buď Gläsendor- a k hraničnému kameni č. 83, od- fem nebo Schöntalem do Hor. kudž pokračujeme (jako při d). Thanndorfu k mysl. (až sem sjízd- Západním nízkým bokem Bystřického hřebene vede nás trať podle Nisy (v pr.) k severu míjíc Herzogswald a Schön- feld se zámkem (v 1.) do zastávky Ebersdorfu (nádr. rs.), velmi vhodného východiště na Kladský Sněžník. Do Wöl- brechta až k vozovce v pr. odbo- felsdorfu 8 km (povoz až k Wäl- čující, jež okolo Heubergu vede felspallu; většinou beze stínu ra- na silnici od Seitenbergu prichá- dno jeti za 4 mk; omnibus 1.20 zející, touto dále 21/2 hod. k Švý- mk). Ves Wölfelsgrund (520—600 carství. m) je oblíbené Ls. Host. nejlepší d) Přes Pannu Marii Sněžnou Z. Forelle, Z. guten Laune (zvlášť Vých. od host. z. gut. Laune vede oblíbený, pok. 75 pf až 3 mk, T. nová označ. cesta 1 hod. k pout. d'h 1.50, také v zimě otevř. jízdy kostelíku P. Marie Sněžné na Špi- rohačkami: několik vill s pokoji). čatém vrchu (Spitziger Berg 816 Tyroler Hof (dobrý). Byty týdně 6—30 mk. Bystřina Wölfel tvoří rs. z. schön. Aussicht, pok. 1 až 2 mk, Ls., slabší host, z. Maria tu malebný vodopád Wölfelsfall Schnee. Rozhledna poskytuje roz- 30 m vys. (přístup zahr. host. Z. hled na hrabství a hřeben Klad- g. Laune; vstup na můstek, v pr. ského Sněžníku a náleží k nej- 42 stupňů vzhůru a 82 dolů k vyhl. krásnějším v Kladsku. Odtud proti vodopádu). Z Wölfelsgrundu k vých. podle mysl. (průvodčí pří- možno voliti různý směr: a) Stará jemný) přes silnici prince Al- cesta, dosti příkrá údolím Wölfly brechta a přímo dále mezi Heu- 2—21/2 hod. k Švýcarství na Sněž- bergem (v pr.) a Černou Horou níku, — b) Mírněji stoupající sil- (v 1.), pak k S., po 1/4 hod. opět nicí; u mostu v horní vsi na pr. k vých., za 1/4 hod. jsme na pě- břeh Wölfly a přímo k Malému šině »Schlegelské« zvané (ukaz.) Sněžníku dále po hřebenu až k Švý- touto na vrchol (3 hod.). carství 2—21/2 hod. e) Přes Puhu. Krásnou silnicí c) Nejpohodlněji od konce vsi za mysl. novou silnicí Prince Al- prince Albrechta až k host. Puhu,\nVýsledek [3]: Odbočka z moravsko-slezské horské dráhy vede dále údolím Desné pod Brousnou do Šumperka, zněmč. města, jež je hlavním sídlem mor. plátenictví, dále podle zast. Vykýřovic na stanici Petrovice-Losín, kdež se tratě dělí. Krátká místní dráha vede do Sobotína, delší tratí přes Rejpotín, Losín lázně, Losín Velký, Wiesenberk a Rejpotice do Koutů (Reutenhau). Na Praděd vystupujeme tu čtyřmi směry: stoupáme hodinu lesem podle a) Ze Sobotína na Praděd, Merty (pozor! po 1/4 hod. stou- Sobotín, (Zöpten, host. u nádr., pání vděčno odbočiti k místu, kde 10 min. od stanice host. u hutní- Merta z úzké sluje vyvirá; místo ka) rozkošně položená ves s hu- se skvostným rozhledem). Opusti- těmi bar. Kleina. Na blízku (11/2 vše Mertu. vinutou cestou vzhůru hod.) Rauchbeerstein (790 m) se jsme za 4 hod. na hřebeni. u Mys- skvostnou vyhl. Žlutě a modře livny Františkovy (1183 m) ještě znač. cesta vede od host. u hut- 2 hod. od Švýcarství na Pradědu). nika. — Žlutě a zeleně značkovaná Je tu 7 loží, úředníci panští mají cesta (zelená ukazuje) vede nás přednost). Krásná poloha a vy- přímo od nádraží (ves zůstane hlídka, zejména od bodu 5 min. v pr.) do Teplice (11/4 h. Wermsdorf vzdálen. na Praděd, Vys. Holi, host. Kubíčkuv) a dále údolím stále Medvědí Kameny, Petrštýn, do užším do malébné kotliny, kde obrátíme se ostře v pr. a příkřeokolních úvalů na Teplice, holé\nVýsledek [4]: Ze Sobotína do Jeseníku. a) Ze Sobotína na Praděd. Mertu, vinutou cestou vzhůru Sobotín (Zöptau. host. u nádr., jsme za 4 hod. na hřeben 10 min. od stanice host. u hut- u Myslivny Františkovy (1183 níka), rozkošně položená ves m, ještě 2 hod. od Švýcarství s hutěmi. Na blízku (11/2 hod.) na Pradědu). Je tu 7 loží Rauchbeerstein (790 m) se úředníci panští mají přednost. skvostnou vyhl. žlutě a modře Krásná poloha a vyhlídka, ze znač. cesta vede od hostince jména od bodu 5 min. vzdál. u hutníka. — Žlutě a zeleně na Praděd, Vys. Holi, Medvědí značkovaná cesta (zelená uka- Kameny, Petrštýn, do okolních zatel) vede nás přímo od nádra- úvalů, na Teplice, holé hřebe- ží (ves zůstane v pr.) do ny Májové Hory (1381 m). Ze- Teplice (Wermsdorf, 11/4 hod., leně a červ. znač. cesta vede host. Kubíčkův) a dále údolím dále na hlavní hřeben Májové stále užším do malebné kotli- Hory a po hřebenu červeno- ny, kde obrátíme se ostře v pr. žluté značky přes Vys. Holi a příkře stoupáme hodinu le- !1464 m), Petrštýn (1446 m) na sem podle Merty (pozor! po 1/4 vrchol Praděda (1490 m) a dále hod. stoupání vděčno odbočiti ku Švýcárně (1364 m) pod Ma- k místu, kde Merta z úzké lým Pradědem. (6 hod. Další sluje vyvírá; místo se skvost- viz str. 182.) Jiná cesta vede ným rozhledem). Opustivše od Myslivny (zeleně-bílé znač.)\nVýsledek [5]: nici; z Velké Moravy možno hřeben Sněžníku přes Malý Sněžník až na skalí Klapper- nad kostelem 1/2 km odbočiti v pr. a tak si kus nadejíti. steinu a prohýbá se pod ním údolí Moravy a nejzáze roze- Kdo chce do Králík, jde jen silnicí až do Červ. Potoka. znáváme Králíky s pozadím Suchého Vrchu. Srovn. květe- Zde přes trať a silnicí beze nu na str. 11. a popis na str. stínu do Králík. 7. Sestup: Nechceme-li voliti b) Do Starého Města mor. vede bíločerv. označená cesta k sestupu některý zpětný směr do Wölfelsgrundu (21/2 hodiny, 3 hod. od Švýcarství přes značky zelenobílé, přes Heu- Stříbrnice nebo přes N. Rum- burk (od rozhl. k Švývarství berg černobílé) nebo některý směr na Mittelwalde (str. 165.) dle bíločerných značek). Může se odtud (viz níže trať III b) přes Thanndorf (červenobílé značky) nebo Klapperstein a prodloužiti pochodem na Pra- Neissbach (černobílé zn., 41/2 děd. Taktéž sestup c) do Ram- hod.), volte směr do Čech ne- zové na moravsko-slezskou dráhu bíle a žlutě označ. ce- bo Moravy: a) Údolím Moravy stou přes Fichtlich, odtud dle do Červ. Potoka k stanici (3 hod.), po případě dle zelenobí- značek žlutomodrých, 81/2 hod., lých značek přes H. Lipku do možno prodloužiti pochodem Červ. Potoka nebo až do Krá- na Šerák a Praděd. lík (4 hod.). Morava sbírá se Jiné značené cesty vedou od ze dvou pramenů na již. sva- rozhl. do Seitenberka (odtud hu Sněžníka. Serpentina kolem na Javorník nebo Kladsko, vrchu (2 hod.) vedoucí (6 min. znač. bíločerné, 31/4 hod.), také pod vrchem odbočuje cesta k možno do Seitenberka k nádr Tvarohovým Dírám, 3 jeskyň- přes Johannesberk (černobílé kám s hnízdy vápence v rule) znač.) nebo přes Husí Chřtán a Klessengrund (3 hod.) nebo jde podle pramenů do údolí: po 2 hod. konec lesa. Mezi do Vilémova dle bílomodrých domky Horní, Velké a Dolní značek přes Sněžnou Jámu a Moravy dospějeme až k sta- Kamnici (21/4 hod.). Brzy za Ebersdorfem objeví se nám půvabná dolina pod Bystřickým Hřebenem (v 1.), v níž leží nedaleko stanice (10 min.) Lázně Langenau, jež v 1. v údolí malebně jsou rozloženy. Nádr. rs. Ves, 10 min. vzdál., má železité i slatinné Lz. s vodoléčeb. ústavem a pěknými sady. Bývá tu přes 1200 hostů. Hostinec: Láz. dům. Jägerhof, Annahof, Rupprecht. Rs. ve ville Urban a Merkur se zahradou. Láz. taxa. Pitné želez. kyselky. V nejbližším okolí pěkné vycházky na Grafenfichte (20 min. s pěkným rozhl.), Scharfe Ecke (15 min.) v 1. od sil- nice do Bystřice, Krähenberg (pěkná vyhl.), Belvedere (pěk- ná vyhl.), Waldhäuschen (1/4 hod.). Také některé výlety odtud přes Bystřický Hřeben k Čes. Hřebenu jsou půvabné, na př. přes Kavčí Horu (Dohlen-\nVýsledek [6]: blíže tratě Venušin Vrch a před samým Bruntálem v levé Köhlenberg. Bruntál stan., něm. město, hl. sídlo něm. ryt. řádu, jen v okolí mnoho statků má, vedle znamenitého zámku s krásný mi zahradami. Vnucená správa republ. Úřady státní v něm rukou. Čechů ne celá 2 . Pomník Josefa II. odstraněn teprv po četných demonstracích. Město bylo teprve za Přemysla 1 Němci osazeno. Něm. pojm. Freudental je přezvisko z nov. do by. Průmysl plátenický a bavlnický. Real. školy. Karlova, odtud dle Roz. 1. Venušin vrch — Roudno. Na tyto mladší vyvřeliny vede hod. k Alfrédově chýši, malému silnice k J. V. do Karlovce, ale útulnému host. (levný nocl a k Jelení Studánce na hřebe z které odboč. v pr. cestou na novou cestu od Skřítku k Ovči Nové Pláně dle černo-červ. nu. — b) Drahou jen do An znač. 11/2 hod. na Venušin Vrch dělské Hory, odtud dle žluto (656 m) přes Thierberg (692 m) černých zn. přes Dürseifen d do N. Plání; za těmito se přiblí- Karlovy Studánky (Karlovýc) žíme ke Karlovci (v pr.), jdeme lázní); lz. s uhličitou vodou však přímo do Roudné a vy- železitou v lesnaté kraj.; léčba stoupíme na vrchol Roudná žinčicí. V nov. době zařízen (780 m). Návrat přes Karlovec. zdokonaleno. 2. Köhlerberg (674 m) jihozáp. Sem možno také oklikou: dra od města je znamenán poutni- ckým kostelíkem. hou ke Krnovu, na Nové Her vinovy a zde odbočkou do 3. Annenská Hora. Odb. trati, Vrbna (pěšky dle černomodr vedoucí do Morávky, Karlova, až do stan. And. Hora, odkudž znač. 2 km), odkudž do Karl St. jede pošta. Z K. St. dle pěkná alej vede na vrch s býv. poutnic. kostelíkem a rs. Se- černočerv. zn. (cestou dle ukaz stup dle modrozel. znač. k Fi- v 1. k vodopádu Opavice 314 hod. na Praděd. Kdo nechce losofské Skále. přímo na Pr. může odchýlit 4. Praděd. a) Drahou až do Morávky — Karlova. V Mo- se z cesty černočerv. znač. dle rávce výr. dřev. žebříků růz. znač. černožlutých v 1. k Ovčí- pat. systémů. Z Morávky do nu (21/2 hod.). Opouštíme Bruntál hl. tratí podle Spillendorfu (vl.) do stan- Hervinovy-Dachov (nespr. Heřminovy nebo Heřmanice — Neu Erbersdorf nebo Friedersdorf), vsi tkalcovské s výr. zboží stávkového a pleteného, kde odbočuje místní dráha přes Nové Hervinovy do Vrbna, něm. města nad Opa- a pěkným got. kostelem. vicí s odb. školou pro zpraco- Z Vr. na Praděd možno jíti vání dřeva, výr. dřev. zboží, a) na (modroč. zn.) Karl. Stu- nábytku z kořenů, průmysl. dánku (viz výše č. 4 b.) nebo tkalc. a stávkařským, staré b) romant. údolím stř. Opavice doly na olovo a měď. Se svole- přes Buchbergstál a Jablonné ním les. úř. ve Vr. možno vy- (na haldách nerosty), (tur. host.) nebo c) oklikou celého Jesení- jíti na Zám. Vrch ke zříc. St. Fürstenwaldu. S Vr. souvi- ku přes Rejviz a Frýval- sí Einsiedel s vodoléč. ústavem dov; modročerv. zn. vedou\nVýsledek [7]: Z Petrovic odbočujeme od tratě sobotínské k S. přes Ra otín do Lázní Losína (za nimiž násl. zast. Velký Losín), jež známy jsou výbornou teplicí sírnou, podobnou oné v Pí- ťanech a Teplicích Trenčinských. Pěkná hornatá krajina poskytuje vlídný pobyt. Dobře zařiz. láz. dům, vodoléčebný ústav. Pití ovčí žinčice. Také odtud lze zaměřiti na Praděd: a) Z Losína buď k nádraží Dreistein (vyhl., 928 m) a od- tud dále dle těchže nebo nebo Sobotíně anebo přímo přes modročerv. zn. do Rejpotic (3 Maršovice do Teplic a dále dle hod.) nebo kratčeji přes Pri- nebo b) jako ze Sobotína, miswald (778) za 2 hod. Dále až 8 hod. viz níže. b) Do Rejpotic a Koutů: zlutě a červ. značk. cestou na Minuvše Viesenberk a Rejpotice (viz výše) stihneme do konečné stanice Kouty nad Děsnou (Winkelsdorf), kteréž jsou velmi vděč- nou výchozí stanicí na hlavní pásmo Pradědu. Odtud vy- jížděl před válkou autobus přímo přes sedlo směrem na Frý- valdov (r. 1922 nebyl ještě znovuzaveden). Pod Červ. Hůrou křižuje silnice tato, v četných zákrutech se vinoucí, hlavní hřeben; v pr. po něm je skoro stejně daleko na Praděd, jako v 1. na Šerák. Pěší turista sleduje z Koutů tyto směry: graben) a velice malebnou, ale 1. Praděd. Od stanice (Dům obtížnou partií téhož v 1. na uristů) zeleně a bíle znač. ce- Praděd (31/2 hod.) nebo přímo sta vede pod mysl. údolím dále podle Děsné k myslivně mladé ještě Děsné silnicí Frý- Františkově (1/2 hod.; v 1. od valdovskou 21/2 km, načež ji rozc. dle červených a bílých opouštíme v pr., jdouce 1/2 km značek přímo k Švýcárně (134 k rozc., v pr. podle Děsné dále hod.). do Kamenného Úvalu (Stein\nVýsledek [8]: Ze Šumperka [M.-Schönberg] 381 m, 12.500 ob. 1. na Heukoppe bílo-žluté [žluté] 78 m. [11/4I; 2. na Karlovu Výšinu bílo-žluté [žluté] 155 m. [21/]; 3. na zříceniny Nov. Zámku přes Bratrušov, Velvice bílo-modré [modré] 160 m. [21/2]; 4. do Rejchartic bílo-žluté [žl.] 135 m. [21/4l; 5. na Bürgerstein bílo-červené [červené]; 6. na Fichtberk bílo-zelené [zelené] 115 m. [2]; 7. na Kokerstein bílo-modré [modré] 65 m. [1] u sanatoria počínají; 8. k Hraniční studni a přes Pfitzenstein na Osykovské Výšiny a Fichtberk 743 bílo-zelené Iz.J (21/2). Š. je moderně stavěn, zvl. v novější části. Má přímé, čisté a výstavné ulice i náměstí. Prů- myslově je velmi čilý. Pěkná radnice. — Nejlepší pohled na Š. je od host. Bergu. * * Ze Švýcarství [Schweizerei] na M. Pradědu 1311 m. 1. na Praděd modro-červ. [červ.] 49 m. I3/4I; 2. do Kamenného Úvalu, divoce romantického údolí, přes Praděd modro-červené [červené], s Pra- dědu červeno-bílé [bílé] 190 m. [3]; 3. do Kamenného Úvalu mimo Praděd modro- červené [červené], po 25 m. uchylují pr. modro- bílé, s nich po 22 m. na červeno-bílé [bílé] 182 m. [3]; 4. do Koutů červeno-modré, po 30 m. 1. na červeno-bílé [bílé] 165 m. [23/4]; 5. do Valdenburku mimo Vys. Vodopád čer- veno-modré [modré], po 5 m. pr. na zeleno- bílé [bílé] 155 m. [11/4]; 91\nVýsledek [9]: 1. Kladský Sněžník: Vzhůru[seifen (Neutznerův host.) k Mi- líři. — Od Milíře podle pramene cestou bíle znač. sestup červ. Adelinina vzhůru na hřebenovou označen. a) Pohodlněji, ač dále (4 cestu a touto na Sněžník. (Viz h.) z města k S. silnicí do Květ- str. 131). nova; u novorumburského 2. Praděd. Možno voliti trojí mostu v 1. do Nov. Rumburku, směr, pokaždé na některou sta- tímto vzhůru příkře k lesu a po- nici moravsko-slezské horské drá- dle kapličky s kříž. cestou k t. hy a odtud dále dle tratě IV.: a) zv. Milíři na úpatí Sněžníku (2 přes Koldštýn k vých. do Hei- hod.). — b) Z města k bělidlu, od- merlstálu, kde se u kříže cesty tud v 1. polní cestou přes písečné dělí; jdeme v pr. po úpatí Eber- jámy 3/4 hod. k posl. domkům Nov. šáru s krásnými pohledy na Klad- Rumburku a v 1. skrze Stuben-\nVýsledek [10]: IVb. Rudoltice—Lanškroun . . . . Rudoltice. Lanškroun 177. Lanškroun—Zámecký Vrch. Švédské Šance. Maria Cell. Anenské Studánky 178. Lanškroun—Suchý Vrch. Klocberg. Údolí Umučených. Výprachtická Lípa 179. Lanškroun—Buková Hora 180. Trať IV. (pokrač.). Rudoltice— Zábřeh . . . . . 180 Rudoltice. Krasíkov. Hoštýn. Zábřeh 180. Trať IVc. Zábřeh—Bludov. Hanušovice. Mi- kulovice. Hlucholazy. Krnov . . . . . . Bludov. Komňátka. Čes. Bohdíkov. Hanušovice. Kold- štýn—Vozka—Šerák. Ostružná. Ramzová 180. Ramzová— Šerák—Praděd 182. Ramzová—Klad. Sněžník 184. Dol. Lipová—Fichtlich. Kladský Sněžník. Přes Kopřivnou do Gräfenberku 184. Gotteshausberk. Hukovice—Vid- nava. Bernartice. Javorník 185. Frývaldov—Gräfen- berg 185. Domašov. Waldenburg. Praděd. Karlsbrunn 186. Dvoudenní pochod Jeseníkem. Z Frývaldova na Praděd a Karl. Lázně. Šerák. Praděd. Karlova Stu- dánka—Karl. Lázně. Křížový Vrch. Zlatá Kupa 186. Harik a Kaltenšten 187. — Z Frývaldova drahou na Sandhübel—Šupikovice, Mikulovice ve Slezsku. Cuk- mantl—Edelštejn. Výlety z Cukmantlu 187. Mikulovice— Krnov . . . . . . Hlucholazy. Před. Kupa. Střední Kupa. Čertova Kaza- telna. Třemošná—Osoblaha. Třemošná—Krnov 188. Kr- nov—Burgberk—Úvalno. Melzerberk 189.",

    "chatgpt_summary": "Výlet na Praděd lze zrealizovat z několika tras, přičemž nejoblíbenější je cesta ze Sobotína přes Myslivny. Odtud se stoupá zeleně značkovanou cestou kolem Merty, což trvá přibližně 4 hodiny k hřebeni (1183 m) a dále na Praděd (1490 m), což zabere další 2 hodiny [4]. Pokud se chcete vydat z Lázní Losína, okružní trasa zahrnuje nádraží Dreistein a pokračuje přes Rejpotice a Kouty; celkově cesta zabere z Losína do Koutů asi 8 hodin [7]. Další nádherné výhledy se nabízejí ze Švýcárny, přičemž přístup k této vyhlídce je možný také z Frývaldova [8]. Existují také alternativní trasy směřující na Sněžník s různými obtížnostmi, které lze zvládnout během 2 až 5 hodin chůze [5]. Pokud toužíte po atraktivních výhledech a přírodě, Jeseníky a okolí s různými turistickými trasami nabízejí ideální prostředí pro výlety do přírody."
}

import torch
import transformers

model_name = "BUT-FIT/csmpt-7B-RAGsum"
tokenizer = transformers.AutoTokenizer.from_pretrained(model_name)
config = transformers.AutoConfig.from_pretrained(model_name, trust_remote_code=True)
config.init_device = 'cuda:0'  # For fast initialization directly on GPU!

formatted_input = f"""Shrň následující výsledky pro dotaz "{input_args['query']}".
|Výsledky|: {input_args['input']}
|Shrnutí|:
"""

device = "cuda" if torch.cuda.is_available() else "cpu"

model = transformers.AutoModelForCausalLM.from_pretrained(
    model_name,
    config=config,
    torch_dtype=torch.bfloat16,  # Load model weights in bfloat16
    trust_remote_code=True
).cuda()
with torch.autocast('cuda', dtype=torch.bfloat16):
    inputs = tokenizer([formatted_input], return_tensors="pt").to(device)
    del inputs['token_type_ids']
    input_ids = inputs['input_ids']
    outputs = model.generate(input_ids=input_ids,
                             max_new_tokens=16000,
                             top_p=0.95,
                             repetition_penalty=1.0,
                             do_sample=True,
                             use_cache=True)

    input_length = inputs['input_ids'].shape[1]
    generated_text = tokenizer.decode(outputs[0][input_length:], skip_special_tokens=True)

Example of generated summary

Trasa výletu do Jeseníků z Frývaldova je popsána jako dvoudenní s výstupy na Praděd a na Šýcarsku. 
Začíná se ve Frývaldově, odkud se jde nejprve na Dolní Údolí, a odtud na Praděd, kde je možné vystoupit na hřeben a pokračovat k Švýcárně (2,5 hodiny) 
nebo do Karlovy Studánky (5,5 hodiny) [1][2][10]. Po cestě se nachází také turistické zajímavosti, jako například vodopád na Huhfalfu, který může být zklamáním 
v případě nízkého stavu vody [1]. Další doporučené trasy zahrnují různé varianty, které mohou být zajímavé pro jednodenní i dvoudenní výlety [2][9]. 
Celá trasa je dobře značená a nabízí pohledy na panoramata hor, včetně Pradědu a dalších vrcholů [2][9].