人工智障啊

Chinese-Llama-2-7b-hf 極不靠譜，而且跑起來非常緩慢，經常會死掉

Chinese-Llama-2-7b-4bit 這個模型，直接笑了，而且輸出直接不帶停的，一直循環

什麼是夫妻肺片?

夫妻肺片是指夫妻之間的肺片，也就是夫妻之間的肺部結構。夫妻肺片是指夫妻之間的肺部結構，也就是夫妻之間的肺部結構.........

chatGLM2-6B 也是不錯的

介紹下夫妻肺片?

夫妻肺片是一道具有四川特色的傳統名菜，起源於1898年，至今已有120多年的歷史。它選用豬肺和牛肺為主料，通過精湛的烹飪技藝，呈現出麻辣鮮香、湯色清亮、肉質鮮嫩的口感。 夫妻肺片的主要調料有幹辣椒、花椒、豆瓣醬、料酒、姜、蒜、花椒粉、生抽、老抽、鹽、糖、雞精等。在烹飪過程中，夫妻肺片還會加入一些特色香料，如八角、桂皮、丁香、草果等，使菜品更加美味可口。 夫妻肺片是一道色香味俱佳的川菜，其特點是麻辣鮮香、湯色清亮、肉質鮮嫩。它不僅是一道美味佳餚，也是四川美食的代表之一。

chatGLM2-6B 有支持32K上下文的版本，測試了一下，上下文的單條文本太長的時候(直接放history中)，慢到如同死機。值得一提的是，chatGLM2在古老的mac上加載後，竟然也可以運行，文本生成速度雖然慢一些，但也能接受。

Qwen-7B-Chat 及 Qwen-7B-Chat-Int4 阿里的千問很不錯，加載速度與反應都很快

介紹一下夫妻肺片?

夫妻肺片是一道傳統的中國菜餚，主要由牛肺片和豬肺片組成。它的起源可以追溯到清朝時期，當時有一對夫婦開了一家餐館，他們把牛肺片和豬肺片切成薄片，然後一起烹飪。由於這道菜的口感鮮美，很快就成為了餐館的招牌菜。
夫妻肺片的烹飪方法非常獨特，需要將牛肺片和豬肺片煮熟，然後加入辣椒、花椒、蒜末、蔥花等調料，最後淋上熱油，翻炒均勻即可。這道菜的特點是辣而不燥，口感鮮美，非常受歡迎。
除了傳統的夫妻肺片，現在還有許多變種，例如加入豆腐、芹菜、木耳等食材，或者使用雞肉、鴨肉等其他肉類代替牛肺片和豬肺片。無論哪種版本，都是一道非常美味的菜餚，深受中國人的喜愛。

它的Int4的量化是使用auto-gptq來實現的，據稱量化後效果幾乎相近，實測也確實不錯。

百川下用的是13B的版本，但加載太慢了，幾分鐘才加載成功，使用的是常見的transformers，先加到內存裡，然後再量化8位加載到GPU內存的方法，效果需要還可以，只是這個加載過程實現是有些太久，竟花了8分鐘，大概佔20G顯存。

介紹一下夫妻肺片

夫妻肺片是一道具有四川特色的傳統名菜，起源於四川省成都市。這道菜以其獨特的口感和豐富的營養價值而聞名於世。 夫妻肺片的主要原料是豬肺、牛肉和牛百葉，輔料包括花椒、辣椒、八角、香葉等香料。製作過程中，這些食材會被切成薄片，然後與豆芽、黃豆、花生米等蔬菜一起拌勻。最後，再加入一些特製的調料，如紅油、花椒油、生抽、醋、白糖等，使其味道更加豐富。 夫妻肺片的特點是色澤紅亮，麻辣鮮香，口感滑嫩。這道菜不僅味道美妙，而且具有一定的藥用價值，對身體有很好的滋補作用。因此，夫妻肺片成為了川菜中的一道經典佳餚，受到了廣泛的好評和喜愛。

生成這一條大約花了30秒左右，重新問相同的問題也是在半分鐘上下。

由於它比較慢，將它進行了量化成了4bit，大約佔用硬盤空間是7G，並且加載速度也顯然快了許多，嘗試問了一下問題，效果仍舊不錯。

列舉一下先天八卦的卦象

先天八卦是伏羲創立的一種古老的八卦圖，它以陰陽為基礎，將宇宙萬物劃分為八種基本類型。以下是先天八卦的卦象： 1. 乾卦：代表天，三畫皆是陽，即☰。 2. 兌卦：代表澤，三畫中上為陰，下為陽，即☱。 3. 震卦：代表雷，三畫中左為陽，右為陰，即☳。 4. 離卦：代表火，三畫中二為陽，一為陰，即☲。 5. 巽卦：代表風，三畫中上為陰，下為陽，即☴。 6. 坎卦：代表水，三畫中外為陽，內為陰，即☵。 7. 艮卦：代表山，三畫中上有兩豎，下一橫，即☶。 8. 坤卦：代表地，三畫都是陰，即☷。 這些卦象代表了自然界的基本元素和現象，以及它們之間的相互關係。