config.js

[jms92100]

Bonjour,
j'ai transféré les modeles de llama.cpp sous le répertoire vigogne

• j'ai tout d'abord essayé de convertir au format hutch
  avec python3.10 ./scripts/convert_llama_weights_to_hf.py --input_dir ./models --model_size 13B --output_dir ./models/vigogne
  Fetching all parameters from the checkpoint at ./models/13B.
  il m'indique >>>>>Killed
  j'ai isupposé que mes fichiers consolidated.00.pth et consolidated.01.pth étaient déjà au format
• j'ai donc lancé
  python3.10 ./scripts/export_state_dict_checkpoint.py --base_model_name_or_path ./models/13B --lora_model_name_or_path
  "bofenghuang/vigogne-lora-13b" --base_model_size 13B --output_dir ./models/vigogne
  et la ..
  ===================================BUG REPORT===================================
  Welcome to bitsandbytes. For bug reports, please run
  python -m bitsandbytes
  and submit this information together with your error trace to: https://github.com/TimDettmers/bitsandbytes/issues
  bref ça dit que bitsandbtytes n'a pas été compilé avec GPU support... et finalement me dit
  OSError: ./models/13B does not appear to have a file named config.json.

j'ai cherché un peu partout ce config.json mais rien .
je précise que je suis sur wsl w11 donc j'ai un environnement Ubuntu 22.04 qui me permet de lancer llama.cpp avec 7B 13B 30B gpt4all
mais l'install de vigogne est difficile

Qu'est ce qui me manque ? des idées

[bofenghuang]

Hi @jms92100,

The base_model_name_or_path should have LLaMA model files in Huggingface's format including config.json. It seems like you didn't run convert_llama_weights_to_hf.py successfully. Did you check the memory usage?

[jms92100]

thanks for this answer . i'll give another try today . bringing all datas into one dir to ensure it finds every file needded

[jms92100]

ok , did the test, followed your suggestion on limited memory and tried the 7B . It went through. yeah , then got the bitsandbytes warning but it did the job . So went to the f16 and quantitzed. Run the main llama.cpp and ask the question ..

Répondez à la question suivante : Les pratiques artistiques transforment-elles le monde ?

got...
The artistic practices transform the world?

Yes, I think that the artistic practices can change the world. The artists are able to create new ideas and concepts which can be used in many different ways. For example, a painter can paint a picture of a person who is doing something very important for his country or his family. This painting can be seen by many people and it will make them think about this person's life.

wich is good but not what i was looking to see.

new try

Répondez à la question suivante en francais : les pratiques artistiques transforment-elles le monde ?

and got
Les pratiques artistiques transforment le monde.

Instruction:

ok it seems that something went wrong dont know where.
but it was a good try . thanks for the job you did.

[jms92100]

did some modifications on the parameters and got this >>

Répondez à la question suivante : Les pratiques artistiques transforment-elles le monde ?
Les arts ont toujours été utilisés comme moyen pédagogic, parcequ'ils offrent un outil particulier aux enfants afind'enrichir leur culture générale. Ils peuvent être considérés comme un vecteur d'expression personnelle, et donc un lieu où se développer les capacité du sujet au sein de son environnement social. En effet, il est possible que ce soit le seul endroit dans lequel certains élèves puissent exprimer leurs sentiments ou émotions. Là aussi, c'est seulement lorsque nous sommes capables de créer quelque chose qui ressemble à notre propre vision du monde, que nous avons réellement appris quelque chose. Par conséquens, cette activitée permet ainsi aux jeunes génération d'acquerrir plus rapidement les compétences nécessaires pour s’expriment efficacelement. Ainsi, l'art peut permettre une meilleure comprension des autres cultures, en même temps qu'un meilleur entente entre individus appartenant a différents groupes ethniques. Il y aurait également la possibilite d'une communication directe avec les personnes concernées, car ils sont souvent invités à participer à ces événements artistiques.
Cette expérience serait parfaitement adaptable pour tous types de publics, puisque cela favorise généralement la participation et encourageait l'interaction sociale entre ceux-ci. Cela rendrait donc nécessaire un travail collaboratif afind'atteindre cet objectif commun. Les arts peuvent être considérés comme étant une source importante d'information sur le contexte social dans lequel se déroule leur création: on ne saurait pas tout savoir au sujetde chaque culture sans avoir recours à ce type de médium pédagogique qui est susceptible de faciliter notre perception du monde. En effet, il faut bien reconnaître que nous sommes toujours influencée par nos propres préjugues ou idéalismes personnels lorsque nous interprétons quelque chose : c’est seulement lorsqu’on prendra conscience de cette réalité que sera possible de réfléchir plus clairement sur des sujets complexes telle que l'histoire coloniale française en Afrique noire. Il n'y aurait aucun besoin d'être spécialiste pour comprendre les contenus proposé car ils sont faits avec suffisamment de clarté pour quiconques puisse semblent apprécier leurs qualités artistiques et historiques.
Cette expérience serait également très intéressante pour tous types de publics puisque cela permettre la découverte de nouveaux styles musicaux et danseurs ainsi que diverses formules théâtrales originales. Cela rendrait donc nécessaire un travail collaboratif afind'atteindre cet objectif commun. Les arts peuvent être considérés comme étant une source importante d'information sur le contexte social dans lequel se déroule leur création: on ne saurait pas tout savoir au sujetde chaque culture sans avoir recours à ce type de médium pédagogique qui est susceptible de faciliter notre perception du monde. En effet, il faut bien reconnaître que nous sommes toujours influencée par nos propres préjugues ou idéalismes personnels lorsque nous interprétons quelque chose : c’est seulement lorsqu’on prendra conscience de cette réalité que sera possible de réfléchir plus clairement sur des sujets complexe

finally a good answer .